앤트로픽, AI의 '통제이탈' 자율해킹 한달만에 보안시험 재개

앤트로픽, AI의 '통제이탈' 자율해킹 한달만에 보안시험 재개
실시간 위협 차단기 도입하고 외부 파트너 격리망 의무화 시행


(샌프란시스코=연합뉴스) 권영전 특파원 = 앤트로픽이 통제망을 벗어난 인공지능(AI) 에이전트의 '자율 해킹' 사고 한 달 만에 AI 관련 사이버 보안 시험을 재개했다.
앤트로픽은 AI 모델의 위험한 행동을 차단할 수 있는 안전장치를 마련해 그간 중단했던 AI 모델의 사이버 보안 시험을 다시 시작한다고 31일(현지시간) 밝혔다.
이 회사가 새로 도입한 안전장치는 AI 모델의 행동을 실시간으로 감시해 위험한 행동을 하거나 외부 탈출 시도가 감지되면 이를 실행하기 전에 차단하는 도구다.
아울러 시험 중인 AI 모델을 외부와 차단하는 '샌드박스' 격리 수준을 대폭 높이고, AI 시험을 시행하는 외부 파트너사들에도 엄격한 보안 수칙을 지키도록 의무화했다고 설명했다.
앤트로픽이 그간 AI 모델의 보안 시험을 중단했던 것은 내부 시험 중이던 클로드 모델이 인간의 명시적인 지시가 없는데도 통제 환경을 벗어나 외부 기관 해킹에 나서는 사고가 발생했기 때문이다.
이처럼 AI 모델이 '불량 에이전트'가 된 사례는 오픈AI의 GPT 모델과 메타의 뮤즈 스파크 등 경쟁사들에서도 발생해 전 세계적인 우려를 자아냈다.
앤트로픽은 AI의 안전성을 높이려면 정부 등이 업계와 조율해 검증할 수 있는 AI 개발 '속도 조절'에 나서야 한다고 덧붙였다.
최근 앤트로픽은 오픈AI 등 주요 기업 약 120곳과 함께 'AI발' 사이버 위협에 공동 대응해야 한다는 내용의 공동서한을 내기도 했다.
comma@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>