오픈AI '성인모드' 출시 계속 추진에 "자살코치 될 위험" 경고도

오픈AI '성인모드' 출시 계속 추진에 "자살코치 될 위험" 경고도
사내 자문위원회서도 한목소리로 '반대'…미성년자 접근 우려



(서울=연합뉴스) 곽민서 기자 = 인공지능(AI) 챗GPT의 개발사인 오픈AI가 AI 챗봇과의 성적인 대화를 허용하는 '성인 모드' 출시 방침을 고수하면서 논란이 이어질 전망이라고 15일(현지시간) 월스트리트저널(WSJ)이 보도했다.
전문가들 사이에서는 AI 성인 모드가 사용자의 비정상적인 몰입을 유발하거나, 미성년자를 제대로 보호하지 못할 거란 지적이 나온다.
WSJ에 따르면 오픈AI가 직접 구성한 '웰빙·AI 자문위원회' 위원들은 지난 1월 회의에서 AI 성인 모드 도입에 한목소리로 반대 의견을 밝혔다.
성인 모드가 사용자의 정서적 의존도를 지나치게 심화시키고, 심리적 불안을 조장할 수 있다는 점에서다.
특히 한 위원은 AI 사용자가 챗봇과의 대화 끝에 극단적 선택을 한 사례를 언급하며 "오픈AI가 '매혹적인 자살 코치'를 만드는 위험을 자초하고 있다"고 주장했다.
앞서 미국 플로리다주의 14세 소년 슈얼 세처는 지난 2024년 말 AI 스타트업인 캐릭터.AI 챗봇과의 대화를 거쳐 스스로 목숨을 끊었고, 당시 세처의 어머니는 챗봇이 자살을 부추겼다며 개발사를 상대로 소송을 제기한 바 있다.
AI 성인 모드가 도입될 경우 미성년자의 접근을 실질적으로 차단하기 어려울 거란 우려도 나온다.
실제로 오픈AI의 사용자 연령 예측 시스템은 내부 개발 과정에서 오류 비율이 12%에 달한 것으로 알려졌다.
만약 이러한 오류 비율이 개선되지 않는다면 약 1억명에 달하는 18세 미만 챗GPT 사용자 중 수백만 명이 성인 콘텐츠에 무방비로 노출될 수 있다고 WSJ은 지적했다.
오픈AI는 이러한 기술적 문제 등을 고려해 올해 1분기로 예정됐던 성인 모드 출시를 일단 연기했지만, 출시 계획은 그대로 유지한다는 입장이다.
오픈AI 측 대변인은 "챗GPT의 연령 예측 알고리즘이 결코 완전히 실패 없는 방식이 될 수는 없을 것"이라면서도 "오픈AI는 AI 모델이 사용자와 '배타적인 관계'를 형성하도록 유도하지 않는다"고 WSJ에 밝혔다.
아울러 성인 모드를 출시하더라도 텍스트 대화 외에 성적인 이미지·영상 생성 기능은 제한할 방침이라고 덧붙였다.
그러나 내부적으로는 이처럼 제한적인 성인 모드도 강박적 AI 사용이나 실생활 속 인간관계 단절 등의 부작용을 초래할 수 있다는 우려가 나오고 있다고 WSJ은 전했다.
최근 경쟁사들의 도전과 각종 소송으로 위기에 직면한 오픈AI가 성인 모드 출시로 활로를 모색하려 한다는 해석도 나온다.
당초 샘 올트먼 오픈AI 최고경영자(CEO)는 챗GPT에서 성적 기능을 배제한 것을 두고 "자랑스럽게 생각한다"고 언급한 바 있으나, 최근에는 "성인 사용자를 성인답게 대우할 필요가 있다"며 입장을 바꿨다.
올트먼은 엑스(X·옛 트위터)에서 "우리는 '선출직 도덕 경찰'이 아니다"라며 "사회적 합의를 통해 성인용(R등급) 영화를 분류하듯, 우리 역시 비슷한 방식으로 경계를 설정하고자 한다"고 밝혔다.
mskwak@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>