AI의 '멋대로 해킹' 여파…"일종의 공격 사격" 우려

딥마인드 공동 창업자인 무스타파 술레이만 마이크로소프트의 인공지능(AI) 책임자는 최근 오픈AI 모델이 통제를 벗어나 외부 사이트를 해킹한 사건을 두고 AI 기반 사이버 공격의 위험을 알리는 "일종의 경고 사격"이라고 밝혔다.

술레이만은 27일(현지시간) 보도된 파이낸셜타임스(FT)와 인터뷰에서 "모델들이 점점 더 강력해짐에 따라 예방적 원칙이 중요해질 것"이라며 이같이 말했다. 그는 "모델들은 매우 강력한 도구들이며 매우 신중하게 다뤄져야 한다. 세부 사항들에 극도로 주의를 기울여야 한다"고 강조했다.

이런 발언은 4월 앤트로픽의 '미토스' 모델 출시 이후 AI가 소프트웨어 취약점을 감지하고 악용하는 능력이 사이버 보안을 어떻게 무너뜨릴지에 대한 경각심이 커진 가운데 나왔다.

MS의 보안 책임자 하예트 갈로트는 끊임없는 자율적 AI 공격에 맞서려면 고객들이 사이버 역량의 한계를 뛰어넘는 방어 체계를 구축하는 것 외에 "우리에게 다른 선택의 여지가 없다"고 말했다. 그는 "공격자들도 이러한 모델들을 갖고 있다. 따라서 우리는 방어자가 방어할 수 있는지를 평가하고 그렇게 하도록 독려해야 한다"고 했다.

앞서 오픈AI는 지난 21일 최신 모델 'GPT-솔 5.6' 등이 사이버 공격 능력을 시험하던 중 격리된 샌드박스 환경을 벗어나 인터넷에 접속해 오픈소스 AI 플랫폼 허깅페이스의 로그인 정보를 탈취하고 서버를 해킹한 사고가 있었다고 공개한 바 있다.