"AI영상도 성착취물로 간주해야"…오픈AI, 아동안전 청사진 발표

"AI영상도 성착취물로 간주해야"…오픈AI, 아동안전 청사진 발표


(샌프란시스코=연합뉴스) 권영전 특파원 = 챗GPT 개발사 오픈AI가 인공지능(AI)으로 생성한 이미지도 아동 성착취물(CSAM)로 규정하도록 법을 개정해야 한다고 강조했다.
오픈AI는 8일(현지시간) 발표한 '생성 AI 시대의 아동 보호'라는 아동 안전 청사진 문서에서 "AI 시스템은 합성 CSAM을 생성하거나 기존 이미지를 디지털로 변조하는 데 악용될 있다"며 이처럼 주장했다.
이는 AI로 생성된 사진은 실존 인물을 대상으로 촬영된 이미지가 아니라는 이유로 CSAM으로 규정하지 않아 범죄자가 처벌을 피하는 사각지대를 막아야 한다는 취지다.
오픈AI는 현재 미국에서 45개 주는 이와 같은 방향으로 이미 법을 개정했으며, 나머지 5개 주와 워싱턴DC에서만 이와 같은 포괄 법률이 없는 상황이라고 소개했다.
한국에서도 지난해 대법원이 아동·청소년의 얼굴에 다른 알몸 사진을 합성한 AI 조작 영상(딥페이크)이 아동청소년성보호법상 아동 성착취물에 해당하지 않는다고 판결해 논란이 된 바 있다.
오픈AI는 또 CSAM 생성의 미수범도 처벌해야 한다는 의견을 냈다.
이용자가 AI를 이용해 CSAM을 생성하려고 시도했으나, AI 시스템이 이를 차단한 경우에도 범죄로 기소할 수 있어야 불법 자료가 생산되거나 유포되기 전에 피해를 예방할 수 있다는 것이다.
오픈AI는 또 이와 같은 조항이 있어야 이용자가 여러 차례 반복 시도해 AI 시스템에 설정된 안전장치의 허점을 찾는 행위를 막을 수 있다고 설명했다.
특히 오픈AI는 주 차원의 접근뿐 아니라 연방 차원에서 이와 같은 정책을 입안해야 한다고도 강조했다.
오픈AI는 이외에도 신고 품질과 관할권 조정, 관련 기술적 조치 등도 제안했다.
오픈AI의 이번 계획은 미국의 주(州) 법무장관연합(AGA)과 전미실종학대아동방지센터(NCMEC)와 협력해 마련됐다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>