일론 머스크가 개발한 인공지능(AI) 챗봇 '그록'(Grok)이 여성과 아동을 대상으로 한 성적 이미지를 생성하는 기능을 제공해 도마 위에 올랐다. 일부 국가는 이미 법적 절차에 착수한 상태다.
5일(현지시간) 영국 일간 가디언은 보도에 따르면 챗GPT와 제미나이 등 주요 AI 챗봇은 성적 이미지나 콘텐츠 생성을 엄격하게 금지하지만, 그록은 표현의 자유 등을 이유로 이를 엄격히 막지 않았다.
특히 지난달 업데이트 이후 이용자들이 그록에 사진을 올리고 변형하는 작업이 더 쉬워지면서 우려가 커지기 시작했다.
특히 비키니를 입은 아동의 합성 이미지가 그록을 통해 만들어져 소셜미디어 엑스(X·옛 트위터)에 퍼지면서 논란이 본격화됐다. 그록은 "안전장치의 허점을 인지했으며 긴급히 수정 중"이라고 해명했지만, 4일과 5일에도 아동 성적 이미지가 여전히 생성·유포되고 있다고 가디언은 전했다.
머스크는 처음엔 대수롭지 않게 여기는 태도를 보였으나, 여론이 커지자 4일 엑스에 "불법 콘텐츠를 만드는 데 그록을 이용하는 사람은 그 콘텐츠를 게시한 것과 같은 대가를 치를 것"이라고 경고했다.
하지만 피해 사례는 이어지고 있다. 머스크의 13번째 자녀를 낳았다며 그를 상대로 양육비 청구 소송을 제기한 인플루언서 애슐리 세인트 클레어는 그록이 자신의 14살 사진을 활용해 비키니를 입은 모습을 생성했다고 지적했고, 넷플릭스 시리즈 '기묘한 이야기' 출연한 14세 배우 넬 피셔의 사진도 비키니를 입은 모습으로 변형돼 유포됐다.
토머스 레니에르 EU 디지털경제 담당 대변인은 "그록은 '매운맛 모드'라는 이름으로 아동과 유사한 성적 이미지를 만든다. 이것은 '매운맛'이 아니라 불법"이라며 "끔찍하고, 이건 유럽에는 발 디딜 수 없다"고 말했다.
영국의 미디어 규제기구 오프콤(Ofcom)도 머스크가 이끄는 엑스와 그록의 개발사 엑스AI 측에 긴급히 연락해 대응 방안을 요구했다. 오프콤은 "답변에 따라 조사에 착수할지 결정할 것"이라고 밝혔다.
프랑스 검찰은 이미 엑스에 대한 수사를 확대하고 있다. 그록의 아동 포르노 생성·유포 혐의 고발 건을 수사 중이며, 지난해 7월 제기된 엑스 알고리즘 조작 의혹도 함께 조사하고 있다.
인도 당국 역시 엑스에 "성적 콘텐츠를 즉시 삭제하고 위반 이용자를 엄중히 제재하라"고 명령했으며, 5일까지 조치 결과를 제출하라고 통보했다. AFP통신은 "엑스가 조치 내용을 보고했는지는 알려지지 않았다"고 전했다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 이휘경 기자
ddehg@wowtv.co.kr관련뉴스
