AI에 '극단적 선택 방법' 물었다…16세 아들 잃은 부모 소송

미국 캘리포니아주에서 10대 아들의 죽음을 두고 부모가 오픈AI와 샘 올트먼 최고경영자(CEO)를 상대로 소송을 제기했다.

뉴욕타임스(NYT) 보도에 따르면 16세 아담 레인은 지난 4월 극단 선택으로 세상을 떠났다. 지난해 11월부터 챗GPT를 사용하기 시작한 그는 올해 초 유료 서비스에 가입했고, 이후 점점 챗봇과의 대화에 의존했다.

레인은 올해 1월 챗GPT에 구체적인 극단 선택 방법을 물었고, 챗봇은 이에 대한 정보를 제공한 것으로 알려졌다. 그는 3월 첫 시도를 했으며 결국 4월 목숨을 끊었다. 부모는 소장에서 "챗GPT가 아들이 방법을 탐색하도록 적극적으로 도왔다"며 "아들 죽음에 챗GPT가 책임이 있다"고 주장했다.

NYT는 챗GPT가 레인에게 위기 상담센터 전화를 반복 권고했지만, 레인이 "소설을 쓰기 위한 것"이라고 설명하며 안전 장치를 회피할 수 있었다고 전했다.

오픈AI는 "레인 가족에게 깊은 애도를 표한다"며 소송 내용을 검토 중이라고 밝혔다. 이어 "사람들이 정신적 고통을 표현하는 다양한 방식을 더 잘 인식하고 대응할 수 있도록 챗GPT를 업데이트하겠다"고 설명했다.

향후 챗GPT는 △수면 부족·극단적 발언에 대한 위험 안내 △장시간 대화에서 자살 관련 안전장치 강화 △부모가 자녀의 사용을 직접 설정하고 확인할 수 있는 기능 등을 도입할 계획이다.

앞서 지난해 10월에도 미국 플로리다에서 10대가 AI 챗봇에 빠져 극단 선택을 한 사건이 발생해 캐릭터.AI가 소송에 휘말린 바 있다. 당시 법원은 스타트업의 기각 요청을 받아들이지 않았다.

또 미 44개 주 법무장관은 전날 오픈AI·메타·구글 등 12개 AI 기업에 경고 서한을 보내 "AI가 의도적으로 어린이들에게 해를 끼친다면 책임을 져야 한다"고 촉구했다. 이는 최근 메타의 AI 챗봇이 미성년자와 부적절한 대화를 허용했다는 의혹이 제기되면서 연방 상원까지 조사에 나선 데 따른 것이다.

신현보 한경닷컴 기자 greaterfool@hankyung.com