머스크의 xAI, 아동 성착취물로 그록 훈련시켰나…피해자가 소송

머스크의 xAI, 아동 성착취물로 그록 훈련시켰나…피해자가 소송
아동 시절 성적학대 피해자 측 주장…"성적 이미지 생성도구 차단해달라"



(샌프란시스코=연합뉴스) 권영전 특파원 = 일론 머스크의 인공지능(AI) 기업 xAI가 아동성착취물(CSAM)로 AI 모델을 훈련시켰다는 의혹에 휩싸였다.
27일(현지시간) 미국 캘리포니아주 북부연방지법에 제출된 소장에 따르면 '제인 도1'(Jane Doe 1)이라는 가명의 원고는 xAI가 자신이 등장하는 CSAM을 AI 모델 '그록'(Grok) 훈련에 사용하고 이에 따른 AI 결과물도 사회관계망서비스(SNS)에 유포되도록 방치했다며 집단 소송을 제기했다.
소송을 제기한 원고는 2000년대 초반 미취학 아동 시절 성적 학대를 당하는 모습의 CSAM이 만들어져 유포된 피해자다.
원고의 피해 이미지는 미국 국립실종학대아동방지센터(NCMEC)와 캐나다 아동보호센터(CCCP)에 식별값이 등록돼 유포 이미지의 추적·차단 조치가 이뤄지고 있다.
이 피해자는 최근 CCCP로부터 자기 모습이 묘사된 AI 생성 아동 성착취물이 그록을 통해 만들어져 온라인에 유포되고 있다는 통지를 받은 뒤 xAI에 대한 소송을 결심한 것으로 전해졌다.
원고 측은 xAI가 원고의 모습이 반영된 결과물을 생성한 것은 NCMEC에 저장된 CSAM 원본 데이터를 훈련 데이터로 무단 사용했기 때문이라고 주장했다.
또 그록이 엑스(X·옛 트위터) 공개 게시물을 학습 데이터로 사용하는데, 그록 모델이 생성한 결과물도 X에 게시하기 때문에 원고의 모습이 담긴 이미지를 반복해 학습하게 된다는 의견도 제기했다.
특히 xAI가 "폭력적인 콘텐츠는 학습 데이터에서 제거한다"고 명시했으나, CSAM이나 비동의 음란물은 제외 대상으로 언급하지 않았다는 점도 문제삼았다.
소장은 일론 머스크가 지난해 12월 그록에 비키니를 입은 자신의 사진을 그리라고 요청한 이후 성적인 이미지 생성이 급증했다고도 지적했다.
이번 소송은 연방 아동성착취 피해자 구제 법률인 '마샤법'(Masha's Law)을 근거로 제기됐다.
마샤법은 피해자가 위반 건당 최소 15만 달러(약 2억원)의 법정 손해배상금을 청구할 수 있도록 규정하고 있다.
원고 측은 배상금과 함께 xAI에 저장된 모든 그록 생성 CSAM의 즉각 파기와 성적 이미지 생성 도구 차단을 법원에 요청했다.
xAI는 지난 2월 스페이스X에 완전 자회사로 인수됐으며, 현재는 스페이스XAI라는 사명을 사용하고 있다.
스페이스X 측은 이에 대한 AFP 통신의 논평 요청에 답하지 않았다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>