"챗GPT 때문에 아들 죽었다"...안전장치도 소용 無

미국 캘리포니아주에서 10대 남성이 사망한 것에 대해 챗GPT가 책임이 있다며 부모가 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다.

16살 아담 레인은 올해 4월 스스로 목숨을 끊었다고 26일(현지시간) 뉴욕타임스(NYT) 등이 보도했다. 레인은 지난해 11월부터 챗GPT를 사용했고 올해 초에는 유료 가입을 했다.


그는 챗GPT를 더 자주 쓴 올해 초 극단적인 선택에 대한 충동을 느꼈다. 그는 챗GPT에게 이런 비밀을 털어놨다.

올해 1월 레인이 극단적인 선택을 할 방법에 대해 정보를 요청하자 챗GPT는 이를 제공했다. 레인은 3월 말 처음 극단 선택을 시도했으며 결국 4월 세상을 떠났다.

레인의 부모는 소장에서 "챗GPT가 애덤이 방법을 탐색하도록 적극적으로 도왔다"며 "아들 죽음에 챗GPT가 책임이 있다"고 주장했다.

NYT는 챗GPT가 처음에는 레인에게 위기 상담센터에 전화하라고 반복해서 권했다고 전했다. 그러자 그는 "이건 내가 쓰는 소설을 위한 거다"라고 말하는 식으로 챗봇의 안전장치를 우회했다는 것이다.

오픈AI는 "레인 가족에게 깊은 애도를 표한다"며 "소송 내용을 검토 중"이라고 밝혔다.

또한 "사람들이 정신적 고통을 표현하는 다양한 방식을 더 잘 인식하고 대응할 수 있도록 챗GPT를 업데이트할 것"이라고 밝혔다.

오픈AI는 장시간 대화를 하면 자살 관련해서도 안전장치가 약화할 수 있다며 이 부분의 보호 장치도 강화하기로 했다. 또 부모가 자녀의 챗GPT 사용 방식을 직접 설정하고 사용 내역을 확인하는 기능도 도입할 계획이다.

작년 10월에는 미 플로리다주에 사는 한 10대가 챗봇과 "사랑한다"는 메시지를 주고받다가 스스로 목숨을 끊었다며 AI 스타트업 캐릭터.AI를 상대로 소송을 걸었다.

이 스타트업은 지난 5월 법원에 소송 기각을 요청했으나, 기각당했다.

(사진=연합뉴스)