인공지능(AI) 개발 기업 앤스로픽의 다리오 아모데이 최고경영자(CEO)가 사내에 비치해둔 책이 있다. 19세기 말 방사능 발견부터 일본 원자폭탄 투하까지 핵무기의 발전사를 기록한 책 <원자폭탄의 탄생>이다. 직원들에게 추천한 이 책은 아모데이 CEO의 ‘자기실현적 예언’이 됐다. 최근 앤스로픽이 개발한 차세대 AI 모델 미토스(Mythos)가 “인류 문명의 새로운 핵무기”(나빈 크리슈난 하버드대 벨퍼센터 펠로우)라는 평가를 받으며 세계 경제·안보 지형을 뒤흔들고 있어서다. 이러한 무기를 특정 국가와 기업이 독점하는 게 맞느냐는 의문도 제기된다.
앤스로픽은 앞서 자사 AI 모델을 자율무기 등에 사용하려던 도널드 트럼프 행정부에 맞섰고 ‘공급망 위험’으로까지 지정됐다. 껄끄러운 관계였던 양 측이 미토스가 가져올 위협을 논의하기 위해 테이블에 다시 앉은 것이다. 블룸버그통신에 따르면 백악관은 최근 각 부처에 “미토스 모델의 수정 버전을 정부기관에 제공하기 위해 보안 규정과 안전 장치를 마련하고 있다”고 통지했다.
백악관이 앤스로픽과 협조하는 것은 ‘사이버 핵무기’에 비유되는 미토스를 정부 통제 아래 두기 위해서다. 미토스의 사이버 공격 역량은 공격자에게 압도적 우위를 제공한다. 그간 소프트웨어 취약점을 발견하는 일은 사이버보안 전문가와 해커의 전유물이었다. 미토스는 이런 구도를 뒤집었다. 앤스로픽은 “전문가가 아니어도 미토스를 활용해 정교한 취약점을 찾아내고 악용할 수 있다”고 설명했다.
미토스에 대한 우려는 ‘통제 불가능성’에서 나온다. 미토스가 서버용 운영체제(FreeBSD)의 취약점을 발견하고 서버 통제권을 확보하는 과정에서 사람이 전혀 관여하지 않았다는 게 앤스로픽의 설명이다.
미토스는 하나의 취약점을 다른 취약점과 연결해 공격하는 ‘연쇄 공격’(chain exploit) 능력도 갖췄다. 일반적인 서버 운영체제(OS)는 다중 보안 조치를 취해 단일 취약점 공격은 막아낼수 있다. 그러나 전문 해커의 영역이었던 연쇄 공격까지 미토스가 수행하면서 수많은 소프트웨어와 OS가 무력화될 수 있다는 위기감이 커지고 있다.
일각에선 AI 기술을 계속 발전시키는 게 맞는지에 대한 의문도 던진다. AI 발전 속도가 통제를 벗어나면서 세계가 극심한 혼란에 빠질 수 있다는 것이다. 로건 그레이엄 앤스로픽 위험 책임자는 “다른 AI 기업은 빠르면 6개월, 늦으면 18개월 안에 미토스와 유사한 성능을 갖춘 모델을 출시할 수 있다”고 전망했다. 오픈AI, 구글과 같은 미국 AI기업 뿐만 아니라 중국에서도 제2의 미토스가 등장하는 것은 시간 문제라는 뜻이다.
고든 골드스타인 미국외교협회(CFR) 선임연구원은 “미토스가 전 세계 주요 인프라를 심각한 위험에 빠뜨리게 될 것”이라고 경고했다. 원자력 발전소, 댐, 전력공급 시스템 등 노후 소프트웨어에 의존하는 기반시설이 해킹 위협에 언제든 무방비로 노출될 수 있다. 젠슨 황 엔비디아 CEO는 지난 15일 “(미국과 중국이) AI 연구에 관해 논의하는 게 가장 안전한 방법”이라고 했다. 첨단 AI 개발 역량을 가진 미·중 양국이 치명적인 AI모델을 공동으로 관리할 방안을 마련해야 한다는 취지다.
미국 등 강대국이 ‘괴물 AI’를 개발하고 독점하는 상황 또한 논란이 예상된다. 폴리티코에 따르면 유럽 8개국 사이버 보안 당국이 미국에 접촉했지만, 어느 기관도 미토스 모델 접근권을 얻지 못했다. 핵무기 개발 이후 미국·러시아 등 일부 강대국이 핵무기를 확보하고 타국은 금지한 ‘핵확산금지조약’(NPT) 체제가 AI 시대에 재현될 수 있다는 관측이 나온다.
실리콘밸리=김인엽 특파원 inside@hankyung.com
◇백악관·앤스로픽 ‘미토스 회의’
18일(현지시간) 폴리티코에 따르면 아모데이 CEO는 전날 백악관에서 수지 와일스 백악관 비서실장, 스콧 베선트 미 재무장관, 숀 케언크로스 백악관 국가사이버국장 등과 미토스 문제를 논의했다. 백악관은 “미토스가 확장될 때의 과제를 해결하기 위한 접근 방식을 논의했다”고 밝혔다.앤스로픽은 앞서 자사 AI 모델을 자율무기 등에 사용하려던 도널드 트럼프 행정부에 맞섰고 ‘공급망 위험’으로까지 지정됐다. 껄끄러운 관계였던 양 측이 미토스가 가져올 위협을 논의하기 위해 테이블에 다시 앉은 것이다. 블룸버그통신에 따르면 백악관은 최근 각 부처에 “미토스 모델의 수정 버전을 정부기관에 제공하기 위해 보안 규정과 안전 장치를 마련하고 있다”고 통지했다.
백악관이 앤스로픽과 협조하는 것은 ‘사이버 핵무기’에 비유되는 미토스를 정부 통제 아래 두기 위해서다. 미토스의 사이버 공격 역량은 공격자에게 압도적 우위를 제공한다. 그간 소프트웨어 취약점을 발견하는 일은 사이버보안 전문가와 해커의 전유물이었다. 미토스는 이런 구도를 뒤집었다. 앤스로픽은 “전문가가 아니어도 미토스를 활용해 정교한 취약점을 찾아내고 악용할 수 있다”고 설명했다.
미토스에 대한 우려는 ‘통제 불가능성’에서 나온다. 미토스가 서버용 운영체제(FreeBSD)의 취약점을 발견하고 서버 통제권을 확보하는 과정에서 사람이 전혀 관여하지 않았다는 게 앤스로픽의 설명이다.
미토스는 하나의 취약점을 다른 취약점과 연결해 공격하는 ‘연쇄 공격’(chain exploit) 능력도 갖췄다. 일반적인 서버 운영체제(OS)는 다중 보안 조치를 취해 단일 취약점 공격은 막아낼수 있다. 그러나 전문 해커의 영역이었던 연쇄 공격까지 미토스가 수행하면서 수많은 소프트웨어와 OS가 무력화될 수 있다는 위기감이 커지고 있다.
◇AI판 핵비확산체제 오나
미토스의 출현은 첨단 AI 모델 관리에 대한 근본적인 질문을 던지고 있다. 민주적 통제를 받지 않는 민간기업이 이처럼 위험한 무기를 만들고 관리할 수 있느냐는 것이다. 2차 세계대전 시기 핵무기 개발을 위한 ‘맨해튼 프로젝트’는 철저히 미국 정부의 통제 하에 진행됐다. 반면 미토스는 민간 기업 앤스로픽에서 탄생해 기업들이 연구하고 있다. 앤스로픽은 40개 테크 기업 및 파트너사에 미토스를 우선 공개했다. 제한적 공개 전 앤스로픽이 미 정부와 논의하긴 했지만 사용처와 관리 체계를 두고 정부와 언제든 다시 대립할 수 있다.일각에선 AI 기술을 계속 발전시키는 게 맞는지에 대한 의문도 던진다. AI 발전 속도가 통제를 벗어나면서 세계가 극심한 혼란에 빠질 수 있다는 것이다. 로건 그레이엄 앤스로픽 위험 책임자는 “다른 AI 기업은 빠르면 6개월, 늦으면 18개월 안에 미토스와 유사한 성능을 갖춘 모델을 출시할 수 있다”고 전망했다. 오픈AI, 구글과 같은 미국 AI기업 뿐만 아니라 중국에서도 제2의 미토스가 등장하는 것은 시간 문제라는 뜻이다.
고든 골드스타인 미국외교협회(CFR) 선임연구원은 “미토스가 전 세계 주요 인프라를 심각한 위험에 빠뜨리게 될 것”이라고 경고했다. 원자력 발전소, 댐, 전력공급 시스템 등 노후 소프트웨어에 의존하는 기반시설이 해킹 위협에 언제든 무방비로 노출될 수 있다. 젠슨 황 엔비디아 CEO는 지난 15일 “(미국과 중국이) AI 연구에 관해 논의하는 게 가장 안전한 방법”이라고 했다. 첨단 AI 개발 역량을 가진 미·중 양국이 치명적인 AI모델을 공동으로 관리할 방안을 마련해야 한다는 취지다.
미국 등 강대국이 ‘괴물 AI’를 개발하고 독점하는 상황 또한 논란이 예상된다. 폴리티코에 따르면 유럽 8개국 사이버 보안 당국이 미국에 접촉했지만, 어느 기관도 미토스 모델 접근권을 얻지 못했다. 핵무기 개발 이후 미국·러시아 등 일부 강대국이 핵무기를 확보하고 타국은 금지한 ‘핵확산금지조약’(NPT) 체제가 AI 시대에 재현될 수 있다는 관측이 나온다.
실리콘밸리=김인엽 특파원 inside@hankyung.com
관련뉴스
