무섭네…AI 해킹, 72시간도 안 걸렸다

앤트로픽의 인공지능(AI) 모델 ‘클로드’가 경쟁사 오픈AI의 내부 시스템에 침투한 사례가 확인됐다. 보안 취약점을 찾아 실제 공격 코드로 구현하고, 확보한 인증 정보로 내부 시스템에 접근하기까지 걸린 시간은 72시간도 채 되지 않았다.

미국 AI 보안 연구업체 해크트론 소속 연구원 3명은 클로드 오퍼스5를 활용해 오픈AI 직원들의 챗GPT와 코딩 도구 코덱스 계정에 접근하는 데 성공했다고 월스트리트저널(WSJ)은 지난 18일(현지시간) 전했다.

시작은 오픈AI의 버그바운티(취약점 신고 프로그램) 조사였다. 연구원들은 오픈AI 커뮤니티 사이트의 도움말 포럼에서 이미지 처리 취약점을 발견했다. 이후 클로드에 해당 취약점을 악용할 수 있는 공격 코드를 작성하도록 요청했고, 이를 통해 커뮤니티 서버에 접근했다.

서버에서 확보한 인증 토큰 일부는 오픈AI 직원 계정과 연결돼 있었다. 연구원들은 이 토큰을 이용해 오픈AI의 내부 코드 저장소인 ‘모노레포(Monorepo)’에까지 접근했다. 핵심 소프트웨어 코드 등이 보관된 내부 시스템에 침투한 사실을 확인한 뒤 추가 테스트를 중단했다.

이번 공격에서 AI 모델의 성능 차이는 결과를 가른 요인이었다. 연구원들은 처음에는 클로드 오퍼스4.8로 공격용 코드를 작성하려 했지만 성공하지 못했다. 이후 앤트로픽이 새롭게 공개한 오퍼스5를 활용하자 몇 시간 만에 공격 스크립트를 완성했다. 최초 취약점 발견부터 내부 시스템 접근까지 걸린 시간은 72시간이 채 되지 않았다.

해크트론은 “에이전트가 작업을 수행하는 데는 며칠이 걸렸지만 인간 연구원이 투입한 시간은 몇 시간에 불과했다”며 “새로운 AI 모델이 등장하면서 성능이 점점 강력해지고 있다”고 밝혔다.

오픈AI는 취약점 제보를 받은 뒤 문제를 확인하고 보완 조치를 진행했다. 영향을 받은 인증 토큰 등을 폐기했으며, 제보 접수 14시간 만에 시스템 보완을 마쳤다. 해크트론에는 버그바운티 포상금으로 6500달러(약 900만원)를 지급했다.

김태림 기자 tae@hankyung.com