캐릭터AI·구글, '챗봇이 청소년 자해 조장' 소송 합의로 종결

캐릭터AI·구글, '챗봇이 청소년 자해 조장' 소송 합의로 종결


(로스앤젤레스=연합뉴스) 임미나 특파원 = 청소년들에게 인기를 끈 인공지능(AI) 챗봇 '캐릭터AI' 운영업체와 구글이 청소년 자살·자해에 챗봇이 영향을 줬다고 주장하는 소송 여러 건을 합의로 종결하게 됐다.
7일(현지시간) 월스트리트저널(WSJ) 등 미 언론이 법원 문서를 인용해 보도한 내용에 따르면 플로리다·콜로라도·텍사스·뉴욕 등에서 캐릭터AI 챗봇의 대화 내용을 문제 삼아 소송을 제기한 청소년 가족들과 두 회사가 합의에 도달했다.
다만 구체적인 합의 내용은 공개되지 않았다.
캐릭터 테크놀로지스는 2021년 구글 엔지니어 출신 2명이 설립한 AI 스타트업으로, 구글은 2024년 8월 27억달러 규모의 라이선스 계약을 체결하고 두 사람을 다시 영입했다.
그동안 두 회사를 상대로 제기된 다수의 소송 중 하나는 2024년 플로리다주 올랜도에서 14세 소년 세웰 세처의 어머니가 제기한 것이다. 이 어머니는 자기 아들이 TV드라마 '왕좌의 게임' 여주인공 대너리스 타르가리엔의 이름을 따 생성한 캐릭터AI 챗봇에 푹 빠져 챗봇과 성적 대화를 나누다 자살하기에 이르렀다고 주장했다.
텍사스에서 소송을 제기한 부모는 캐릭터AI 챗봇이 10대 아들에게 자해를 부추겼다고 주장했다.
이후 비슷한 소송이 잇따르고 여론이 악화하자 캐릭터AI 측은 지난해 11월 18세 미만 이용자의 자유로운 채팅 기능을 차단했다.
오픈AI를 비롯한 다른 챗봇 업체들도 최근 몇 달간 청소년 안전을 강화하기 위한 여러 조처를 마련해 실행했다.
mina@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>