일본 정부가 인공지능(AI)을 활용해 아동 학대 여부를 판별하는 시스템을 만들었지만, 오류 확률이 60%를 넘어 도입을 보류한 것으로 전해졌다.
3일 요미우리신문 보도에 따르면 일본 아동가정청은 2021년 4월부터 약 10억엔(약 97억원)을 투자해 이 AI 시스템을 개발했고, 실용화에 앞서 학대 사례 100건에 대한 결과를 최근 검증했다.
그러나 경험 있는 아동상담소 간부들은 그중 62건에 대해 정확도가 '현저하게 낮다'며 의문을 나타냈다. 예컨대 어린이가 "엄마 탓에 반죽음 상태 이상이 됐다"고 증언한 사례에 대해 AI는 학대 가능성을 100점 만점에 2∼3점만 부여했다.
일본 정부는 아동상담소 노동력 부족 문제를 해결하기 위해 AI에 약 5천 건의 학대 기록을 학습시켰다. 입력 정보는 상처 유무와 부위, 보호자 태도 등 91개 항목에 달했다.
하지만 전문가들은 학대 사례별로 내용이 달라 5천 건만으로는 AI가 정확한 결론을 내기 어려웠을 수 있다고 분석했다. 아울러 입력 정보에 상처 유무는 있어도 상처 정도와 범위는 없는 등 구체성이 떨어지는 점도 문제로 지적했다.
아동가정청은 일단 현행 시스템 이용은 중단하고 AI 개발 상황을 지켜보면서 운용 재개 등을 결정하기로 했다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 이휘경 기자
ddehg@wowtv.co.kr관련뉴스
