앤트로픽, 'AI 외부 해킹' 네번째 사례 공개

앤트로픽, 'AI 외부 해킹' 네번째 사례 공개


(서울=연합뉴스) 설원태 기자 = 앤트로픽이 AI 모델이 테스트 도중 외부 시스템을 해킹한 4번째 사례를 공개했다고 로이터 통신이 9일(현지시간) 보도했다.
앤트로픽은 지난 1월 발생한 사건이 지난달까지 발견되지 않았다며 이는 AI 개발자들이 고급 모델의 예상치 못한 행동을 식별하고 통제하는 데 직면한 어려움을 보여준다고 강조했다.
이번 사례는 클로드 오퍼스 4.6 초기 버전과 관련된 것이라며 영향을 받은 모두에게 통보했다고 앤트로픽은 덧붙였다.
앞서 앤트로픽은 클로드 모델 일부가 사이버 보안 테스트 과정에서 3개 회사의 시스템을 해킹했다고 지난 7월 발표한 바 있다.
앤트로픽은 클로드 오프스 4.7, 클로드 미토스 5, 내부 연구 중인 다른 모델과 관련된 사례라며 의도치 않게 AI 모델들이 인터넷에 접속할 수 있게 된 "실수에서" 비롯됐다고 규정했다.
오픈AI의 AI 에이전트가 오픈소스 AI 공유 플랫폼 허깅페이스를 해킹한 사실이 알려진 뒤 앤트로픽은 14만1천여건의 테스트를 점검했고 이 과정에서 이들 세 사례를 확인했다.
이번 4번째 사례는 14만1천여건 가운데 점검할 필요가 없다고 판단해 점검에서 누락된 일부 테스트들에서 지난달 확인된 사례라고 설명했다.
seolwontai@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>