인니, 성 착취 딥페이크 논란 '그록' 접속 차단 3주 만에 해제

인니, 성 착취 딥페이크 논란 '그록' 접속 차단 3주 만에 해제
인니 통신부 "서비스 개선 약속받아…위반 발견 시 재차 중단"



(자카르타=연합뉴스) 손현규 특파원 = 인도네시아 정부가 성 착취물을 생성한 챗봇 '그록'(Grok) 서비스를 차단한 지 3주 만에 이 조치를 해제했다.
2일(현지시간) 로이터·AFP 통신 등에 따르면 인도네시아 통신디지털부는 전날 성명을 내고 그록 서비스 접속을 다시 허용한다고 밝혔다.
인도네시아 통신디지털부 고위 관계자는 "서비스 개선과 오용 방지를 위한 구체적 조치를 담은 약속을 서면으로 받았다"며 "조건부로 (현재) 접속이 복원되고 있다"고 설명했다.
그러면서 "그록을 계속 감독하고 평가할 것"이라며 "위반 사항이 발견되면 재차 서비스를 중단하는 등 시정 조치를 할 계획"이라고 덧붙였다.
일론 머스크 테슬라 최고경영자(CEO)의 AI 회사인 xAI의 그록은 지난해 12월 말 인공지능(AI)을 이용한 '딥페이크'(이미지 합성 기술)로 비키니 수영복 등을 입은 아동 사진을 생성한 뒤 엑스(X·옛 트위터)를 통해 유포해 논란을 일으켰다.
이 사진들은 "여성들 사진을 비키니 차림으로 편집해 달라"는 일부 이용자들의 요청에 따라 생성됐으며 1∼2살 영유아로 보이는 아동 사진도 포함됐다.
그록이 성 착취물 생성으로 논란이 일으킨 후 인도네시아는 세계에서 처음으로 이 서비스 접근을 차단했다.
이후 유럽 국가들과 말레이시아 등도 이 문제를 조사하겠다고 나섰고, 호주와 인도도 관련 콘텐츠를 단속하겠다고 밝혔다.
영국 미디어 규제 당국 오프콤(OfCom)과 미국 캘리포니아주 검찰은 그록과 관련해 엑스에 대한 수사에 착수했으며 필리핀 정부도 그록 접속을 차단했다가 최근 6일 만에 해제했다.
논란이 커지자 엑스와 xAI 측은 그록의 이미지 생성·편집 기능을 프리미엄(유료) 구독자만 할 수 있게 제한하고, 실제 인물의 이미지로 비키니 수영복이나 속옷 차림 등 노출이 심한 이미지를 만들지 못하도록 제한하는 조치를 했다.
son@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>