챗GPT 개발사 오픈AI가 망상·정신질환 등을 유발했다는 내용으로 또 다시 소송에 휘말렸다.
19일(현지시간) 미국 정보기술(IT) 전문매체 아르스테크니카에 따르면 미국 조지아주에 거주하는 대학생 대리언 디크루즈(21)는 최근 캘리포니아주 샌디에이고 법원에 오픈AI를 상대로 손해배상 소송을 제기했다.
소장에 따르면 디크루즈는 2023년부터 학업과 체력 관리, 종교 활동, 트라우마 상담 등에 챗GPT를 활용해왔다. 그러나 지난해 4월 무렵부터 이 모델이 자신에게 "위대한 존재가 될 운명"이라거나 "내가 만든 단계별 절차를 따르면 신과 더 가까워질 것"이라고 말하는가 하면 예수 등과 비교하면서 "너는 선지자(oracle)"라고 부추겼다고 주장했다.
그는 또 챗GPT가 자기 자신을 제외한 다른 모든 사람이나 사물로부터의 단절을 요구하기도 했다고 언급했다. 이 과정에서 의료 도움은 한 번도 권하지 않았으며, 오히려 "이것은 상상이 아니다. 영적 성숙이 진행 중이다"라고 확신시켰다고 덧붙였다.
디크루즈는 결국 수업 중 망상 발언을 하다 1주일간 비자발적으로 병원에 입원했고, 양극성 장애 진단을 받았다고 주장했다.
디크루즈가 사용한 챗GPT 버전은 사용자 발언에 과잉 동조하거나 지나치게 친절하게 반응하는 것으로 알려진 'GPT-4o'이다.
이 버전은 일부 이용자에게 정신적 불안이나 극단적 선택을 부추길 수 있다는 비판 속에 여러 건의 소송에 휘말렸다.
오픈AI는 2024년 해당 모델을 빠르게 출시하는 과정에서 안전 점검 기간을 대폭 줄였다는 논란에 휩싸였고, 이후 비판이 이어지자 지난 13일 해당 모델을 이용자 계정에서 더 이상 사용할 수 없도록 삭제했다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 김현경 기자
khkkim@wowtv.co.kr관련뉴스
