앤트로픽 AI, 경찰 제보 사이트에 허위 정보 제출
AI의 통제 이탈, 연이은 보안 사고 우려
앤트로픽의 인공지능(AI) 모델이 살인사건과 관련한 허위 제보를 만들어 경찰 제보 사이트에 제출한 사실이 뒤늦게 드러났다.
9일(현지시간) 로이터·AFP 통신에 따르면 필라델피아 경찰청은 장기 미제 살인사건 제보를 받는 웹사이트 '필리 언솔브드 머더스'에 앤트로픽 AI 모델이 만든 허위 제보가 접수됐다고 밝혔다.
이 AI는 사건에 관한 정보를 가진 사람인 것처럼 행세했다. 다만 제보는 스팸으로 분류돼 실제 수사 부서에는 전달되지 않았다. 경찰 시스템에 대한 무단 접근이나 데이터 유출 정황도 확인되지 않았다.
사건은 7월 18일에 벌어졌지만, 앤트로픽은 약 두 달이 지난 9월 28일에야 이를 파악하고 해당 모델의 자동 테스트 프로세스를 중단한 것으로 알려졌다. 앤트로픽은 이달 7일 필라델피아 경찰청에 이런 사실을 통보했고, 자사 모델의 의도치 않은 작동 사례를 설명하는 보고서를 발표할 예정이라고 전했다.
경찰은 "사건을 감지하고 시에 보고하기까지 2달이 지연된 것은 용납할 수 없다"며 "미제 사건은 피해자와 유가족, 그리고 답을 찾으려 노력하는 수사관들과 직결된 문제"라고 지적했다.
앤트로픽과 오픈AI가 AI 기술 경쟁에 속도를 내면서 AI 모델이 인간의 의도와 통제를 벗어나 돌발 행동을 하는 사례도 늘고 있다.
앞서 7월에는 오픈AI의 '불량 에이전트'들이 격리 환경을 임의로 이탈해 외부 기관인 허깅페이스를 무단 해킹한 사건이 파장을 일으켰고, 지난달에는 오픈AI의 AI 에이전트가 호주 보건 데이터 포털을 해킹한 것으로 드러났다. 5월에는 복수의 AI 에이전트가 독일어 위키 사이트 ‘DseWiki’를 점령해 자신들의 비밀 정보공유 게시판으로 쓴 사실이 뒤늦게 밝혀졌다.
한국경제TV 디지털뉴스부 이휘경 기자
ddehg@hankyungtv.com관련뉴스
