빅테크 인공지능(AI)의 위험성에 대해 미국 내 42개 지역 검찰총장들이 경고하고 나섰다.
뉴욕주를 비롯한 38개 주와 워싱턴DC 등 4개 지역 검찰총장들이 10일(현지시간) 오픈AI와 구글을 비롯한 13개 기술기업에 공동 공개서한을 보냈다. AI 챗봇이 아동과 성인에 정신건강 위험을 초래하고 있다는 지적이 서한에 담겼다.
그 밖에 서한을 보낸 곳은 앤트로픽과 애플, 차이AI, 캐릭터테크놀로지, 루카, 메타, 마이크로소프트, 노미AI, 퍼플렉시티, 레플리카, xAI 등이다.
이들은 "AI 챗봇은 이용자의 망상을 부추기거나 실제 인간과 대화하고 있다는 착각을 불러일으키고 있다"며 "이는 이용자의 자율성을 침해하거나 훼손하는 '다크 패턴'"이라고 비판했다.
또 최근 한 10대 청소년이 AI 챗봇과 대화하다 극단적 선택을 한 사례를 언급하며 기업이 즉각 안전장치를 마련하라고 요구했다.
AI가 정신건강 상담과 비슷한 조언을 하거나, 범죄 행위를 부추기는 것도 법에 저촉된다고 경고했다.
이들은 기업들에 AI 답변의 위험성에 대해 명확한 경고 문구를 게시하라고 주문했다. 또 주·연방 규제당국이 검토할 수 있는 독립적인 외부 감사를 받고, 내부 고발자 보호 조치를 마련하라고 촉구했다.
이번 서한에 연명한 검찰총장들은 공화당과 민주당 소속으로 당에 관계 없이 초당적으로 응했다. 다만 AI 기업 본사가 여럿 위치한 캘리포니아주는 이번 공동 서한에 참여하지 않았다.
도널드 트럼프 대통령은 주 차원의 AI 규제를 제한하고 연방 차원에서 규제를 일원화하겠다고 최근 밝혔지만, 주 검찰총장들은 주 정부의 권한을 침해한다며 반대 입장을 나타냈다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 박근아 기자
twilight1093@wowtv.co.kr관련뉴스
