오픈AI가 챗GPT에 이용자 나이를 판별하는 도구를 도입했다. 청소년들이 챗GPT와 대화한 이후 극단적 선택을 하는 사건이 연이어 발생해서다. 오픈AI는 관련 사고 이후 비판과 소송에 직면해 있다.
오픈AI는 18일(현지시간) 소비자용 요금제에 연령 예측 모델을 차례로 도입하고 있다고 밝혔다. 해당 모델은 이용자가 챗GPT와 나누는 대화의 주제나 주로 사용하는 시간대 등 다양한 신호를 분석해 해당 이용자가 18세 미만인지를 판별한다.
회사는 "계정 이용자가 미성년자일 가능성이 있다는 판단이 들면 청소년 보호 장치를 자동 적용하는 데 도움이 될 것"이라며 "연령에 대한 확신이 없거나 정보가 불완전하다면 기본적으로 '18세 미만(U18) 원칙'을 적용하고, 성인에게는 연령을 확인할 수 있는 방법을 제공할 것"이라고 설명했다.
이용자가 미성년자로 판별되거나 나이가 불분명하면 챗GPT는 즉시 '18세 미만' 환경을 강제로 적용한다. 18세 미만 환경 모드는 폭력적인 묘사나 위험한 행동을 조장하는 챌린지, 성적 역할극, 신체 왜곡 콘텐츠 등을 차단한다. 아울러 미성년 이용자에게 안전 문제가 발생하거나 위험한 것으로 평가되는 대화가 이뤄질 경우 챗GPT는 긴급 서비스나 위기 지원기관에 연락하라고 이용자에게 강하게 권고하게 된다.
오픈AI는 이와 같은 '18세 미만' 환경에 적용되는 원칙은 미국심리학회(APA) 등 전문가 자문을 거쳐 마련했다고 설명했다. 다만 오픈AI는 "아직 시스템이 완벽하지 않아 성인을 미성년자로 오인할 수도 있다"고 말했다. 이 경우 '셀카 동영상'이나 여권을 비롯한 정부 발급 신분증을 통해 성인임을 인증하면 이전처럼 이용할 수 있다.
오픈AI는 이 과정에서 제출한 영상이나 신분증 정보는 검증 즉시 몇 시간 내에 폐기된다고 설명했다. 개인 식별정보를 저장하지 않는다고 덧붙여 강조했다.
챗GPT는 약관상 13세 미만은 서비스에 접속할 수 없다. 13∼18세는 부모나 법적 보호자의 동의를 얻어야만 이용 가능하다.
하지만 오픈AI는 최근까지 이용자가 가입시 입력한 생년월일을 따로 검증하는 절차를 두지 않았다. 미성년들이 부모의 승인 없이 우회 가입할 수 있었던 것.
앞서 캘리포니아주의 고등학생 애덤 레인(16)을 비롯한 미성년자들이 챗GPT와 대화한 이후 망상이나 우울증 등에 시달리다 생을 마감한 바 있다. 유가족들은 오픈AI가 미성년 안전장치 없이 서비스를 출시했다며 소송을 제기했다. 오픈AI는 지난달 말 레인 사건을 담당하는 법원에 제출한 문서에서 레인이 13∼18세 이용자는 보호자 동의를 받도록 한 약관을 무시했다고 주장했다.
박수빈 한경닷컴 기자 waterbean@hankyung.com
관련뉴스
