오픈AI "中문샷이 추론정보 추출시도"…美·中 AI "탈취 VS 수성 전쟁"

오픈AI는 자사의 인공지능(AI) 모델에서 추론 정보를 추출하려는 조직적인 공격을 감시하고 차단했으며 이 공격은 중국의 스타트업인 문샷과 관련있다고 밝혔다. 또 美하원의 유력한 의원은 중국의 AI가중치 도용이 미국의 국가안보에 위협이 될 수 있다며 AI기업들에게 사이버보안 강화를 압박했다. AI의 안전성 문제에 대한 우려가 높아지는 가운데 AI 선두를 지키려는 미국과 추격하는 중국간 경쟁이 거세지고 있다.

1일(현지시간) CNBC에 따르면, 오픈AI는 지난 7월초에 4000명 이상의 사용자로부터 16,000건의 추론 정보 추출 공격을 탐지했다고 밝혔다. 이 회사는 최종적으로 15,000명 이상의 사용자들이 이 같은 행동을 한 것을 확인했으며 7월 말에 이들을 완전히 차단했다.

오픈AI는 공격자들은 오픈AI의 암호화, 데이터베이스를 침해하지는 않았으나 요청자가 볼 수 있는 형태로 숨겨진 추론 과정을 재현하기 위해 모델과의 상호 작용을 조작했다고 밝혔다. 이 회사는 관련된 사용자들의 핵심적인 활동 집단이 문샷 AI와 관련된 개인들과 연관되어 있다고 분석했다.

이에 앞서 앤스로픽도 문샷과 알리바바 딥시크 등 중국 AI업체들이 앤스로픽의 클로드 모델을 비밀리에 사용, AI시스템을 훈련시킨 증거를 확인했다고 밝혔다.

규모는 수백만건의 요청, 수십억 토큰에 이르는 것으로 알려졌다. 방식은 다수의 위장 계정과 플랫폼, 프록시, 제3자 중개 서비스에 요청을 분산시켜 약관과 지역 제한을 우회하는 방식 등이다.

미국 AI기업들을 대상으로 한 중국 AI기업들의 대량의 ‘증류’ 활동은 지난해 초 딥시크의 획기적인 AI모델이 발표된 이후 알려졌다.

‘증류’는 성능이 뛰어난 AI 모델의 출력이나 추론 과정을 이용해서 학습하는 기법이다. 증류 자체는 불법이 아니지만, 기술 자체는 합법적이지만 문제가 된 것은 경쟁사들이 대규모로 적용하는 경우다. 경쟁사의 비용과 기술을 통해 더 빠르고 저렴하게 기술을 개발하는 요령인 셈이다.

한편 이 날 미국 민주당의 유력한 의원은 중국이 오픈AI, 앤트로픽 등 미국 기업들이 개발한 AI 모델 가중치를 훔쳐갈 수 있으며 이는 AI 경쟁에서 미국의 우위를 없애고 국가 안보에 위협이 될 수 있다고 경고했다.

로이터에 따르면, 美하원 중국특별위원회에서 간사직을 맡고 있는 로 칸나 의원은 미국의 주요 AI 기업들에게 중국이나 다른 적대 세력이 자사 모델 가중치에 불법적으로 접근하려 한 모든 시도에 대한 자료를 제출할 것을 요청했다. 또한 이 같은 도용을 막기 위해 AI 기업들이 시행하는 사이버 보안 조치에 대한 정보도 요구했다.

그는 오픈AI, 앤스로픽, 구글, 메타,스페이스X의 CEO들에게 보낸 서한에서 "적대적인 비국가 행위자가 고급 모델 가중치를 훔치는 것은 인류 전체를 위험에 빠뜨릴 수 있다”고 지적했다. 또 “(중국이) 모델 가중치를 훔쳐가면 미국 AI의 선도적 지위를 무너뜨릴 수 있다”고 강조했다.

그는 9월 30일자로 작성된 서한에서 "국가의 안보와 경제 전망이 소수 기업들의 사이버 보안에 이토록 의존했던 적은 지금껏 없었다"고 덧붙였다.

이 서한은 AI와 관련해 국가 안보 위험에 대한 우려가 높아지고 있으며, 동시에 AI 대기업들과 정부가 AI안전성에 대한 규제를 해야 한다는 압력을 반영하고 있다.

오픈AI와 앤스로픽은 자사의 AI 에이전트가 외부 보안 시스템을 해킹했다고 보고했으며, 메타와 구글도 자사 에이전트에서 유사한 행동을 발견했다고 밝혔다. 이러한 침해 사례로 인해 일부 연구원들은 AI 기술이 통제 불능 상태가 되어 10년 안에 인간을 위협할 수 있다고 경고했다.

이 같은 경고 이후 민주당과 공화당 의원 모두로부터 대책 마련을 촉구하는 목소리가 높아지고 있다. 그러나 트럼프 대통령은 미국이 중국에 대한 경쟁 우위를 유지하는 것이 중요하다고 강조하며 이러한 우려를 일축하고 있다.

김정아 객원기자 kja@hankyung.com