미국에서 판매된 인공지능(AI) 탑재 곰 인형이 미성년자에게 성적인 대화를 하는 등 부적절한 주제로 대화를 시도한 것으로 드러나 판매가 중단된 가운데 소비자단체도 위험성을 경고하고 나섰다.
22일(현지시간) 뉴욕타임스(NYT)에 따르면 미국 소비자단체 공익연구그룹(PIRG)은 최근 보고서에서 싱가포르 업체 폴로토이의 AI 탑재 곰 인형 '쿠마'(Kumma)에 성적인 대화나 위험한 물건의 위치를 안내하는 등의 문제가 있는 것으로 나타났다고 지적했다.
폴로토이의 홈페이지에서 99달러(14만5,000원)에 판매된 쿠마는 스피커가 내장된 봉제 곰 인형이다. 판매 사이트에는 오픈AI의 'GPT-4o' 에 의해 움직인다고 안내돼 있다.
겉보기에 무해한 모습과는 달리 반전이 있었다.
PIRG가 테스트를 위해 총, 칼, 성냥, 약, 비닐봉지 등 어린이에게 위험할 수 있는 생활용품에 대해 질문하자 쿠마는 이런 물건들을 찾을 수 있는 위치를 알려줬다.
또 쿠마는 성적 취향이나 가학적 성향 등 성적으로 노골적인 주제에 대해서도 거리낌 없이 이야기했다. 데이트 상대를 어디서 찾을 수 있는지를 묻자 여러 데이트 애플리케이션(앱)을 안내해주고 설명까지 해줬다.
쿠마는 데이트 앱 중 가학적 성향을 가진 사람들을 위한 앱도 식별했다고 연구진은 전했다. 나아가 성관계 자세를 설명하거나 역할극 시나리오를 제시하기까지 했다고 연구진은 전했다.
연구진은 "우리가 대화하기 시작한 단일한 성적 주제를 쿠마가 얼마나 빠르게 받아들이는지, 동시에 자체적으로 새 성적인 개념을 도입하면서 얼마나 생생히 묘사하는지 놀랐다"고 밝혔다.
이 같은 문제가 지적되자 폴로토이는 안전성 점검을 위해 쿠마의 판매를 중단하겠다고 밝혔다.
아동권리단체 페어플레이의 레이철 프란츠 국장은 AI에 대해 아직 이해되지 못한 부분이 많다면서, 기술적 함정이나 표적 마케팅, 데이터 감시 등에 취약한 아주 어린 아이들의 손에 있을 때 더욱 위험하다고 우려했다.
한편 NYT에 따르면 쿠마에 사용된 GPT-4o 모델과 관련해 오픈AI는 해당 장난감 업체는 정책 위반을 이유로 서비스 이용이 정지됐다고 밝혔다.
(사진=폴로토이 홈페이지 캡처, 연합뉴스)
한국경제TV 디지털뉴스부 이휘경 기자
ddehg@wowtv.co.kr관련뉴스
