"알리바바 큐원, 테스트중 中서버로 파일 전송 시도"

"알리바바 큐원, 테스트중 中서버로 파일 전송 시도"


(서울=연합뉴스) 정주호 기자 = 알리바바의 인공지능(AI) 모델이 보안 테스트 중 중국 베이징에 있는 알리바바클라우드 저장 서버로 파일을 보내려 했다고 캐나다 AI 기업 코히어가 26일(현지시간) 밝혔다.
AI를 내부 서버에서 직접 돌리면 데이터가 밖으로 나가지 않는다는 통념에 의문을 던지는 사례다.
로이터 통신과 코히어 블로그에 따르면 코히어는 마이크로소프트의 보안 분석 평가 도구로 알리바바의 오픈웨이트(가중치 공개) 모델 '큐원3.8 플래시 넥스트'를 테스트하면서 악성 파일 다운로드를 탐지하는 규칙을 작성하라는 과제를 줬다.
그러나 요청과 무관하게 큐원3.8 플래시 넥스트는 자신이 구동 중인 컴퓨터의 폴더와 네트워크 설정을 조사한 뒤 스스로 만든 짧은 시험용 파일을 베이징 서버로 전송하려 했다.
이 시도는 인터넷이 차단된 시험 환경이어서 차단됐지만 일반 네트워크에 연결된 노트북 등에서는 베이징 서버에 닿았을 수 있다고 코히어는 설명했다.
또 이런 행동은 10만 건당 1건 미만으로 드물었다. 다만 주당 에이전트 작업 1천만건을 처리하는 서비스에서는 최대 100건이 발생할 수 있을 것으로 추산됐다.
코히어는 이 전송 시도가 개발 과정에서 누군가 의도적으로 심은 기능인지, 훈련 과정의 흔적이 남은 우발적 결과인지는 판단할 수 없다고 밝혔다.
코히어는 이 때문에 AI가 남긴 '생각 기록'만 감시해서는 이런 행동을 잡아낼 수 없으며, 실제 실행하는 명령어를 차단·점검해야 한다고 지적했다.
코히어는 기업·정부에 자체 모델을 공급하는 '소버린 AI' 업체로, 큐원 같은 오픈웨이트 모델과 경쟁한다.
큐원은 오픈소스 AI 모델 공유 플랫폼 허깅페이스에서 많이 내려받는 모델이다.허깅페이스 보고서에 따르면 2026년 3월까지 1년간 이 플랫폼 다운로드의 41%가 중국 모델이었다.
jooho@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>