앤트로픽 "문샷 등 '환승역' 통해 클로드 복제 시도 확인"

앤트로픽 "문샷 등 '환승역' 통해 클로드 복제 시도 확인"
위협정보 보고서 발표…수천개 가짜계정 통해 질의 수백만건 전달
클로드가 해킹 범죄와 생물학 연구에 사용된 증거도 확인



(서울=연합뉴스) 정주호 기자 = 앤트로픽이 가짜 계정을 이용한 중국 인공지능(AI) 기업들의 세부적인 증류 수법을 폭로하며 자사 모델 '클로드' 무단 복제 시도를 적발했다고 밝혔다.
앤트로픽이 10일(현지시간) 발표한 위협정보 보고서에 따르면 문샷AI와 딥시크 등 중국 AI 기업들은 '환승역(transfer stations)'이라 불리는 불법 중개 서비스를 이용해 자사 이용자들의 질의 수백만 건을 클로드로 전달하는 방식으로 클로드를 복제하려 시도했다.
중국 밖에서 운영되는 이런 중개 서비스는 가짜 신원, 도난·위조 신용카드, 도난당한 API 키로 계정을 만들어 미국 AI 서비스에 접근한 것으로 나타났다.
이 수법은 경쟁사 모델의 응답을 학습해 자사 모델 성능을 끌어올리는 '증류(distillation)' 기법의 일종으로, 미 당국은 이를 산업 규모의 절도에 비유해왔다.
앤트로픽에 따르면 한 이용자는 중국 청두의 폐쇄회로(CC)TV 카메라 수백 대에서 수집한 한 사람의 감시 데이터를 분석해달라고 문샷의 '키미' 서비스에 요청했는데, 문샷은 중개자 네트워크를 통해 이 데이터를 클로드로 전달했다.
문샷은 수천 개의 가짜 계정을 동원해 지난 5∼7월 클로드와 2천300만건 이상 교신한 것으로 파악됐다.
딥시크도 유사한 방식으로 민감한 고객 정보를 클로드로 전달했으며, 총 7곳의 중국 소재 연구소가 최근 7개월간 이런 증류를 시도한 것으로 나타났다.
앤트로픽의 위협 정보 책임자인 제이콥 클라인은 월스트리트저널(WSJ)에 "이용자는 자신의 키미 이용 내역이 클로드로 전달되고 있다는 사실을 알 방법이 없었다"며 "앤트로픽 같은 기업이 이런 짓을 했다면 큰 스캔들이 됐을 것"이라고 말했다.
앞서 백악관 과학기술정책실(OSTP)의 마이클 크라티오스 실장은 지난 7월 문샷이 키미 K3 모델 개발을 위해 앤트로픽의 '페이블'을 증류했다고 주장했고, 스콧 베선트 재무장관도 산업 규모 증류에 관여하는 중국 기업에 제재·블랙리스트를 사용할 수 있다고 경고한 바 있다.



앤트로픽은 보고서에서 클로드가 해킹 범죄와 생물학 연구 등에 사용된 증거도 확인했다고 밝혔다.
중국의 한 이용자는 조류독감 바이러스를 포유류에 감염되도록 변형하려 클로드를 이용했다.
앤트로픽의 클라인은 "이전에는 이런 유형의 오용을 가상의 우려로 걱정했다면 이제는 현실로 옮겨갔다"고 말했다.
오픈AI 역시 생물무기·독극물 관련 유사한 질의를 확인했다고 WSJ은 전했다.
보고서는 또 중국 창사에 소재한 것으로 추정되는 중국어 사용 해킹 조직이 클로드를 '익스플로잇 파운드리(exploit foundry·취약점 공격 무기 제조공장)'처럼 활용한 사례도 공개했다.
현지 대학 학부생인 이들 조직원 2명은 클로드를 여러 하위 에이전트로 나눠 정찰과 침투 후속 작업을 병렬로 수행시키고 표적 목록·탈취한 자격증명·작업 지침을 지속적으로 기억하도록 설계했다.
네트워크 장비를 겨냥한 워크플로 하나에서만 한 달 새 제로데이 취약점 후보가 10여건 발견됐으며, 이런 방식으로 약 50개 기관이 표적이 된 것으로 파악됐다.
이 밖에도 보고서는 러시아 국가 배후 해킹 조직의 우크라이나 정부·군·외교기관 대상 공격, 프랑스인 해커의 신상정보 유출 사이트 운영, 튀르키예 기업의 말레이시아 선거 여론조작 등 사례도 확인됐다고 밝혔다.
jooho@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>