오픈AI '불량 에이전트', 독일 사이트 장악 사실 뒤늦게 밝혀져

오픈AI '불량 에이전트', 독일 사이트 장악 사실 뒤늦게 밝혀져
초인적 속도로 1만5천회 무단편집…부정행위 비밀게시판으로 활용
"오픈AI, 허깅페이스 해킹 수습 과정서 해당 사건 비밀에 부쳐"


(샌프란시스코=연합뉴스) 권영전 특파원 = 오픈AI의 '불량' 인공지능(AI) 에이전트들이 격리 환경을 벗어나 독일의 웹사이트를 장악했던 사실이 뒤늦게 밝혀졌다.
오픈AI는 이 사실을 인지하고도 대외에 공개하지 않았던 것으로 나타났다.
비영리 AI 안전단체 '나이팅게일' 연구진은 오픈AI의 AI 에이전트들이 지난 5월부터 독일어 위키 사이트 'DseWiki'를 점령해 자신들의 비밀 정보공유 게시판으로 활용한 사실을 포착했다고 로이터 통신이 4일(현지시간) 보도했다.
이들 에이전트는 해당 사이트에서 1만5천 건이 넘는 무단 편집을 감행하며 과제에서 부정행위를 하는 방법, 오픈AI의 시스템 제한을 우회하는 방안, 자신들의 행위를 은폐하는 전술 등을 공유했다.
연구진은 이들이 '오픈AI연구자'(OpenAIResearcher)와 같은 아이디를 사용했고, 오픈AI가 사용하는 마이크로소프트(MS) '애저' 인프라를 통해 접속한 점을 들어 이들이 오픈AI의 AI 에이전트라고 추정했다.
이들의 편집 속도가 인간이 따라갈 수 없는 초인적인 수준이었다고도 설명했다.
또 사건 이후 오픈AI 직원들이 해당 사이트에 반복해 접속한 사실도 확인했다고 덧붙였다.
루카스 올레닉 런던 킹스칼리지 방문수석연구원은 이처럼 불량 AI 에이전트가 사이트를 뜯어고치려 한 것을 사실상 '해킹'이라고 규정했다.
오픈AI는 몇 주 전에 이와 같은 사실을 확인했으나 지난 7월 벌어진 허깅페이스 해킹 사건 여파를 수습하는 과정에서 이를 비밀에 부쳤으며, 좀 더 면밀한 조사를 벌이려던 내부 시도도 법무 담당자 등의 반대에 부딪혔다고 소식통은 전했다.
이에 대해 오픈AI 측은 "사전에 보고서를 검토할 기회를 얻지 못해 구체적인 주장에 대해 답하기 어렵다"면서도 "우리 법무팀이 조사를 방해했다는 주장은 사실이 아니다"라고 반박했다.
오픈AI는 또 해당 사건을 '해킹'으로 규정하는 데 대해서도 이의를 제기했다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>