일론 머스크가 이끄는 인공지능 기업 xAI의 챗봇 '그록' 이 성 착취물 딥페이크 생성 논란에 휘말리며 거센 비판에 직면했다.
9일(현지시간) 미국 언론에 따르면 민주당 소속 론 와이든 상원의원(오리건)과 에드 마키 상원의원(매사추세츠), 벤 레이 루한 상원의원(뉴멕시코) 등 3명은 이날 애플과 구글 최고경영자(CEO)에게 서한을 보내 xAI의 그록 앱과 이 챗봇이 주로 이용되는 소셜미디어 엑스(X·옛 트위터) 앱을 앱스토어에서 퇴출하라고 요구했다.
의원들은 "일론 머스크가 이 충격적이고 불법일 가능성이 큰 행위들을 해결할 때까지 엑스와 그록을 앱스토어에서 즉시 제거해야 한다"며 "엑스의 끔찍한 행위에 눈감는 것은 귀사(애플·구글)의 콘텐츠 관리 관행을 조롱거리로 만들 것"이라고 지적했다.
애플과 구글은 이 사안에 대한 언론의 논평 요청에 아직 입장을 내놓지 않았다.
앞서 그록은 지난 몇 주간 엑스에서 '여성들의 사진을 비키니 차림으로 편집해 달라'는 등의 이용자 요청에 따라 여성과 아동을 성적 대상화한 딥페이크 이미지를 다량 생성해내 세계적으로 물의를 일으켰다. 수천장의 사진을 딥페이크로 만든 이미지들은 대부분 피사체인 당사자의 동의 없이 생성됐다.
이에 유럽 주요국을 비롯해 말레이시아, 호주, 인도 등이 관련 사안을 문제 삼으며 조사나 단속 방침을 밝힌 상태다.
논란이 커지자 엑스·xAI 측은 이날부터 엑스 플랫폼에서 그록의 이미지 생성·편집 기능을 제한하는 방침을 적용하기 시작했다.
그록 챗봇은 이미지 생성·편집을 요구하는 이용자에게 "유료 구독이 필요하다"고 답변하고 있다. 해당 기능은 원래 엑스에서 일일 사용량 제한이 있긴 했지만, 무료로 제공됐었다.
이 같은 조치 이후 엑스에서 그록이 만들어낸 노골적인 딥페이크 이미지 수는 눈에 띄게 감소한 것으로 전해졌다. 다만 엑스와 별도로 운영되는 그록 전용 앱에서는 여전히 구독 없이 이미지 생성이 가능하다는 점이 지적되고 있다.
유럽 당국자들은 이번 조치가 미봉책에 불과하다며 비판의 목소리를 냈다. 서비스 비용 문제와 상관없이 문제의 이미지 자체가 허용돼서는 안 된다는 것이다.
한편 미 연방거래위원회(FTC)와 법무부는 현재까지 xAI에 대한 공식 조사 착수 여부를 밝히지 않았다. 머스크는 지난해 3월 엑스와 xAI를 합병해 두 회사를 사실상 하나의 체계 아래에서 운영하고 있다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 김현경 기자
khkkim@wowtv.co.kr관련뉴스
