日, 아동학대 판별 AI 도입 보류…"62% 오류"

日, 아동학대 판별 AI 도입 보류…"62% 오류"
97억원 투자에도 사실상 '무용지물'…"사례수 5천건으로는 부족" 지적



(도쿄=연합뉴스) 박상현 특파원 = 일본 정부가 인공지능(AI)을 활용해 아동 학대 여부를 판별하는 시스템을 만들었지만, 오류 확률이 60%를 넘어 도입을 보류했다고 요미우리신문이 3일 보도했다.
일본 아동가정청은 2021년 4월부터 약 10억엔(약 97억원)을 투자해 이 AI 시스템을 개발했고, 실용화에 앞서 학대 사례 100건에 대한 결과를 최근 검증했다.
그러나 경험 있는 아동상담소 간부들은 그중 62건에 대해 정확도가 '현저하게 낮다'며 의문을 나타냈다.
예컨대 어린이가 "엄마 탓에 반죽음 상태 이상이 됐다"고 증언한 사례에 대해 AI는 학대 가능성을 100점 만점에 2∼3점만 부여했다.
일본 정부는 아동상담소 노동력 부족 문제를 해결하기 위해 AI에 약 5천 건의 학대 기록을 학습시켰다. 입력 정보는 상처 유무와 부위, 보호자 태도 등 91개 항목에 달했다.
하지만 전문가들은 학대 사례별로 내용이 달라 5천 건만으로는 AI가 정확한 결론을 내기 어려웠을 수 있다고 분석했다. 아울러 입력 정보에 상처 유무는 있어도 상처 정도와 범위는 없는 등 구체성이 떨어지는 점도 문제로 지적했다.
아동가정청은 일단 현행 시스템 이용은 중단하고 AI 개발 상황을 지켜보면서 운용 재개 등을 결정하기로 했다.
사토 이치로 국립정보학연구소 교수는 "AI는 무엇이든 할 수 있는 '마법의 지팡이'는 아니다"라며 "개발 전 실현 가능성을 파악하고 면밀하게 제도를 설계해야 한다"고 조언했다.
psh59@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>