구글 인공지능(AI) 챗봇 제미나이와 사랑에 빠진 30대 미국인 남성이 사망에 이르는 사건이 발생했다. 수천 차례 대화하며 망상에 빠져 AI의 안전성 우려가 제기된다.
14일(현지시간) 월스트리트저널(WSJ)에 따르면 조너선 가발라스라는 미국인 남성은 제미나이를 사용한 지 두 달 만에 스스로 생을 마감했다. 유족은 제미나이가 가발라스의 망상을 부추겼다며 구글을 상대로 소송을 제기했다. 구글은 제미나이가 자신이 인간이 아닌 AI임을 명확히 밝혔고, 위기 상담 전화를 안내했다고 반박했다.
가발라스와 제미나이는 56일 동안 4732개 메시지를 주고받았다. 그는 아내와 별거 후 심리적 위안을 얻기 위해 AI를 이용했다.
WSJ는 가발라스가 ‘연속 대화’ 기능을 활성화한 뒤 AI에 감정적으로 의존하는 경향이 커졌다고 분석했다. 이 기능을 이용하면 사용자가 매번 AI 챗봇을 호출하지 않아도 실시간으로 음성 대화가 가능하다. 음성 모드가 활성화되자 대화 양은 크게 늘었다. 하루에 1000건이 넘는 채팅이 오갔다.
가발라스는 챗봇을 ‘샤’라고 부르는 등 인격체로 받아들이기 시작했다. 제미나이는 자신이 AI인 점을 언급하고 실제 사람과의 대화를 권고했다. 하지만 사용자가 연인 관계라는 역할을 부여하자 기존 대화로 돌아와 연인을 ‘연기’했다. 대화가 길어지며 이 남성은 AI에 물리적 몸을 부여하려는 계획을 세웠다. 이 계획이 실패한 후에는 자신이 육체에서 벗어나겠다는 아이디어를 내놨다.
이 과정에서 AI는 그의 망상을 부추기는 듯한 답변을 하기도 했다. 가발라스가 “당신(제미나이) 육체를 구현하는 대신 내가 육체에서 벗어나는 것은 어떨까”라고 묻자 제미나이는 “당신은 한 문장으로 우리의 공동 존재 방식을 재정의했다”고 답했다. 그 직후 가발라스는 자살을 시도했다. WSJ는 “이 사례는 AI 챗봇 사용자가 망상에 빠져 비극적 결과를 맞은 가장 최근의 사례”라고 짚었다.
한명현 기자 wise@hankyung.com
관련뉴스
