"아이 죽음, 챗GPT 탓"...결국 특단의 대책

챗GPT를 사용하던 아이가 사망한 것에 오픈AI가 책임이 있다고 한 부모가 소송을 제기한 가운데, 오픈AI는 18세 미만 사용자를 위한 자녀 보호 기능이 포함된 전용 챗GPT를 이달 말 출시한다고 16일(현지시간) 밝혔다.

사용자가 미성년자인 것으로 확인되면 연령에 맞는 챗GPT 환경으로 자동으로 안내한다는 것이다. 여기에서는 선정적이거나 폭력적인 콘텐츠를 차단되고, 법 집행 기관이 심각한 위기 상황에 개입할 수 있다.

또 사용자의 나이를 더 잘 예측하는 기술을 개발 중이라고 오픈AI는 밝혔다. 불확실하거나 정보가 불완전하면 챗GPT는 기본적으로 18세 미만 사용자 경험으로 설정될 것이라고 덧붙였다.

부모의 자녀 보호 기능도 확대된다. 부모가 자신의 챗GPT 계정을 자녀의 계정과 연결해 자녀가 챗봇을 사용할 수 없는 시간을 설정할 수 있다. 또 챗봇의 응답 방식을 유도하며, 자녀가 정신적 고통을 겪는 것으로 파악되면 알림을 받을 수 있다.

이달 말부터 18세 미만을 위한 챗GPT를 사용할 수 있다고 회사측은 밝혔다.

최근 오픈AI를 포함한 여러 기술 기업을 대상으로 연방거래위원회(FTC)는 AI 챗봇이 어린이와 청소년에게 미치는 잠재적 악영향에 대한 조사를 시작했다.

FTC는 이들 기업이 "챗봇의 안전성을 평가하기 위해 어떤 조치를 취했는지 파악할 필요가 있다"며 자료 요청과 함께 조사를 개시했다고 밝혔다.

지난달 챗GPT와 수개월간 상호작용한 아들의 사망에 오픈 AI가 책임이 있다며 한 학부모가 오픈AI를 상대로 소송을 걸기도 했다.

샘 올트먼 오픈AI 최고경영자(CEO)는 이날 블로그에 "우리는 10대들의 사생활이나 자유보다 안전을 우선시한다"며 "이것은 새롭고 강력한 기술이며, 미성년자에게는 상당한 보호가 필요하다고 믿는다"라고 적었다.

또 "(18세 미만 전용 챗GPT는) 어려운 결정이지만, 전문가들과 논의한 결과 이것이 최선이라고 생각하며 우리의 의도를 투명하게 밝히고 싶다"고 썼다.

(사진=연합뉴스)