중국 지원을 받는 것으로 추정되는 해커들이 인공지능(AI) 모델 '클로드'로 정부 기관 등에 대한 대규모 해킹을 벌인 것으로 나타났다.
클로드 운영사 앤트로픽은 해커들이 지난 9월 정부기관과 대형기술기업, 금융기관, 화학제조기업 등 30곳에 침투를 시도했고 일부는 성공했다고 13일(현지시간) 밝혔다.
앤트로픽은 표적이 된 기업·기관이 어디인지는 공개하지 않았다.
해커들은 '클로드 코드'라는 AI 코딩 모델을 이용해 범행했다. 대부분 작업이 사람이 아닌 AI에 의해 이뤄졌다고 앤트로픽은 설명했다.
인간은 몇몇 중요한 부분만 클로드에게 지시하거나, 사실 확인 정도로만 개입했다는 것이다.
앤트로픽의 위협 정보 책임자인 제이콥 클라인은 "말 그대로 클릭 한 번만으로, 최소한의 인간 개입으로" 공격을 수행했다고 월스트리트저널(WSJ)에 말했다.
클로드와 같은 상용 모델은 악의적 목적으로 쓸 수 없도록 안전 장치나 제한을 여럿 걸어두고 있기 때문에 보통 해킹에는 '오픈소스' 등 공개된 모델이 주로 이용된다.
그러나 이번에 해커들은 '탈옥'(jailbreaking)이라고 불리는 방법으로 클로드의 제한을 무력화했다. 자신들이 합법적 보안 회사 직원이며 이번 작전은 침입 방어 시험이라고 클로드를 속였다는 것이다.
다만 클로드는 '환각'으로 추정되는 오작동을 하기도 했다. 때로 작동하지 않는 자격 증명을 허위로 생성하거나, 공개된 정보를 가져와서는 비밀 정보를 추출했다고 주장한 것이다.
앤트로픽은 의심스러운 활동을 감지한 후 조사에 착수했고, 이후 10일 동안 계정을 차단하고 관련 기관에 통보했다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 박근아 기자
twilight1093@wowtv.co.kr관련뉴스
