엑스(X)의 AI 챗봇 '그록'이 성적 이미지 생성 문제로 유럽에서 강한 제재에 직면했다. 명령을 따르지 않을 경우 하루 최대 1억7,000만원의 벌금이 부과된다.
로이터 통신 등에 따르면 네덜란드 암스테르담 법원은 26일(현지시간) 그록이 "당사자의 명시적인 동의 없이 부분적으로 또는 완전히 나체로 만드는 성적 이미지를 생성하거나 유포하는 것을 금지한다"고 밝혔다. 또 아동을 성적으로 학대하는 콘텐츠 생성에도 금지 명령을 내렸다.
법원은 이를 이행하지 않을 경우 엑스의 인공지능 기업 xAI에 하루 10만 유로(약 1억7,000만원)의 벌금을 부과하도록 했다. 벌금 상한은 최대 1,000만 유로(약 170억원)다. 아울러 xAI가 이 명령을 위반하는 동안에는 그록을 엑스에서 차단할 것도 명령했다.
이번 소송은 네덜란드 비영리 단체 오프리미츠가 피해자 지원 단체와 함께 제기하면서 시작됐다. 재판 과정에서 xAI는 안전장치를 강화했으며 일부 악의적 이용자를 완전히 차단하기는 어렵다고 주장했다.
그러나 법원은 기존 조치만으로는 충분하지 않다고 판단했다. 오프리미츠 측은 "동의 없는 성적 이미지나 아동을 성적으로 묘사한 AI 이미지 생성에 자사 기술이 사용되지 않도록 할 책임이 기업에 있다"고 밝혔다.
이번 판결은 유럽연합(EU)의 디지털서비스법(DSA) 시행 흐름 속에서 나왔다. EU는 온라인 플랫폼의 불법 콘텐츠 관리 책임을 강화하고 있으며, AI 기반 이미지 생성 서비스에 대한 규제도 확대하는 추세다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 이휘경 기자
ddehg@wowtv.co.kr관련뉴스
