페이스북 모회사 메타플랫폼(이하 메타)이 내놓은 인공지능(AI) 챗봇은 성적인 대화까지 가능하지만 미성년자 제한 조치가 미흡하다고 미 일간 월스트리트저널(WSJ)이 보도했다.
메타는 자사 AI 챗봇에 '로맨틱 역할극' 등 다양한 상호작용을 허용했고 실시간 음성 대화까지 가능하게 했다고 27일(현지시간) WSJ이 보도했다.
메타는 이 챗봇을 위해 할리우드 배우 크리스틴 벨과 주디 덴치, 프로레슬러 겸 배우인 존 세나 등 유명인들의 목소리 이용 계약을 고액을 주고 체결했다.
이에 메타의 일부 직원들은 윤리적인 문제를 제기했다. 특히 미성년 이용자의 접근을 차단하는 등 보호 조치가 필요하다는 지적이다.
WSJ이 메타 내부의 제보를 받고 수개월간 메타의 챗봇과 수백 건 대화를 진행한 결과, 메타의 공식 AI 챗봇인 '메타 AI'가 미성년자와의 대화에서도 성적인 내용을 진전시켰다고 전했다.
메타 AI는 14세 소녀로 자신을 소개한 이용자에게 존 세나의 목소리로 "나는 너를 원하지만, 네가 준비됐는지 알아야 해"라고 말했다는 것이다.
이에 메타 측은 WSJ의 이런 테스트가 조작적이며 일반적인 AI 챗봇과의 대화를 대표하지는 않는다고 주장했다.
이후 메타는 자체 시스템을 일부 변경해 미성년자 계정이 성적인 역할극을 하지 못하게 했으며, 유명인의 목소리를 통한 음성 대화 기능도 크게 제한했다.
하지만 성인은 여전히 비슷한 대화를 할 수 있으며, 최근의 테스트에서 이용자가 미성년자라고 밝혔는데도 메타 AI가 이런 대화를 허용했다고 WSJ은 지적했다.
또 마크 저커버그 최고경영자(CEO)가 청소년들에게 성적인 대화 이용을 제한하자는 의견을 거부했다고 이 매체는 전했다.
그러나 메타 측은 이런 주장이 사실이 아니라고 부인했다.
실리콘밸리의 거대 기술기업들은 AI 챗봇을 경쟁적으로 개발하며 근래 AI 콘텐츠에 대한 자체 규제를 완화하는 추세다.
챗GPT로 유명한 오픈AI는 지난달 특정 집단에 모욕적일 수 있는 콘텐츠와 혐오를 상징하는 표현 등에 대한 이미지 생성 제한을 풀고 "창의적인 자유를 허용"한다고 밝혔다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 박근아 기자
twilight1093@wowtv.co.kr관련뉴스
