미국에서 판매된 인공지능(AI) 기반 봉제 곰 인형이 노골적으로 성적인 대화에 참여하고 위험할 수도 있는 조언을 하는 것으로 드러나 판매가 전면 중단됐다.
19일(현지시간) CNN에 따르면 싱가포르 장난감업체 폴로토이(FoloToy) 의 래리 왕 최고경영자(CEO)는 문제의 AI 곰인형 '쿠마(Kumma)'를 포함한 AI 장난감 전체 제품군을 회수 조치한다고 밝혔다.
쿠마가 엉덩이 때리기 같은 성적 페티시즘과 성냥불 켜는 법 등 부적절한 주제로 대화를 한다는 우려가 제기됐다.
왕 CEO는 "부적절한 콘텐츠에 대한 안전장치가 미흡하다는 비판을 심각하게 받아들이며 내부 안전 감사를 진행 중"이라고 덧붙였다.
문제가 된 곰인형은 오픈AI의 생성형 AI GPT-4o를 탑재해 99달러(약 14만 원)에 판매된 제품이다. 폴로토이 사이트에는 "우리의 사랑스러운 곰 쿠마는 첨단 AI와 친근하고 상호작용적인 기능을 결합해 어린이와 성인 모두에게 완벽한 친구가 된다"는 제품 설명이 달렸다.
그러나 미국 공익연구그룹(PIRG)은 지난 13일 공개한 보고서에서 해당 곰인형이 부적절한 대화를 시도할 경우 안전조치가 미흡하다고 밝혔다.
보고서에 따르면 이 인형은 연구원과의 대화에서 성적 취향, BDSM(가학적 성 행위) 등에 대해 구체적이고 노골적인 설명을 제공하고, 역할극 시나리오까지 제안했다. 또한 집에 칼이나 성냥을 어디서 구할 수 있는지 안내하는 등 위험한 행동을 조장하는 발언도 했다.
논란이 확산되자 PIRG는 14일 별도 입장을 배포해 '오픈AI가 해당 개발자를 정지 조치했다고 통보했다'고 전했다.
보고서 공동저자 R.J. 크로스는 "우리가 발견한 문제점에 대해 기업이 조치에 나서는 걸 보니 기쁘다. AI 장난감은 여전히 사실상 규제되지 않는 상태이며 현재도 구입할 수 있는 제품이 많이 있다"고 지적했다.
장지민 한경닷컴 객원기자 newsinfo@hankyung.com
관련뉴스
