중국이 메타의 오픈소스 인공지능(AI) 모델 ‘라마’를 활용해 감시 및 정보 수집 시스템을 개발했다는 의혹이 제기됐다. 오픈AI는 중국 당국과 연관된 챗GPT의 여러 계정이 라마를 토대로 만든 감시 시스템을 디버깅(오류 수정)하기 위해 자사 기술을 이용하고, 해당 계정을 즉시 차단했다고 지난 21일 발표했다. 중국이 SNS 데이터를 수집하고 감시한다는 의혹은 여러 차례 나왔지만, 이처럼 서방의 AI 기술로 체계적인 시스템을 개발했음을 밝혀낸 건 이번이 처음이다.
오픈AI가 공개한 중국의 수법은 반중 여론을 감시하는 수준을 넘어선다. 중국의 한 소프트웨어(SW)는 공공연하게 챗GPT를 활용해 인스타그램, 페이스북, X(옛 트위터) 등 서방 국가 SNS에서 대화를 수집한 뒤 중국 정보 요원과 각국 중국대사관에 감시 보고서를 보낸다고 홍보까지 한 것으로 조사됐다.
이날 보고서에 언급된 한 중국 계정은 챗GPT를 활용해 미국 정치와 사회를 비판하는 스페인어 기사를 생성해냈다. 해당 뉴스는 남미 지역의 주요 뉴스 매체에 게재되기도 했다.
북한 소행으로 추정되는 계정들도 발각됐다. 이 계정들은 챗GPT로 허위 이력서와 온라인 프로필을 만들어냈다. 오픈AI는 이들 계정이 미국 등 서방 주요 기업을 속여 일자리를 얻기 위한 것으로 보인다고 밝혔다. 오픈AI는 지난해 2월에도 북한 해킹조직 ‘김수키’가 AI로 여러 기업과 사이버 보안 도구를 조사하고 해킹에 필요한 코드를 디버깅했다고 공개했다. 이번에 발각된 계정에는 SNS 게시물과 기사를 생성해내는 이란 계정도 있었다.
전문가들은 AI산업이 오픈소스 모델을 중심으로 발전해 누구나 쉽게 자신의 목적에 맞는 AI 시스템을 개발할 수 있게 되면서 부작용이 속출하고 있다고 지적한다. 중국 AI 스타트업 딥시크가 탄생한 것도 서방의 오픈소스 AI 모델이 토대가 됐다. AI를 국가 전략 자산으로 삼은 미국의 대중(對中) 견제 수위가 한층 높아질 것이라는 분석이 나온다.
실리콘밸리=송영찬 특파원 0full@hankyung.com
오픈AI가 공개한 중국의 수법은 반중 여론을 감시하는 수준을 넘어선다. 중국의 한 소프트웨어(SW)는 공공연하게 챗GPT를 활용해 인스타그램, 페이스북, X(옛 트위터) 등 서방 국가 SNS에서 대화를 수집한 뒤 중국 정보 요원과 각국 중국대사관에 감시 보고서를 보낸다고 홍보까지 한 것으로 조사됐다.
이날 보고서에 언급된 한 중국 계정은 챗GPT를 활용해 미국 정치와 사회를 비판하는 스페인어 기사를 생성해냈다. 해당 뉴스는 남미 지역의 주요 뉴스 매체에 게재되기도 했다.
북한 소행으로 추정되는 계정들도 발각됐다. 이 계정들은 챗GPT로 허위 이력서와 온라인 프로필을 만들어냈다. 오픈AI는 이들 계정이 미국 등 서방 주요 기업을 속여 일자리를 얻기 위한 것으로 보인다고 밝혔다. 오픈AI는 지난해 2월에도 북한 해킹조직 ‘김수키’가 AI로 여러 기업과 사이버 보안 도구를 조사하고 해킹에 필요한 코드를 디버깅했다고 공개했다. 이번에 발각된 계정에는 SNS 게시물과 기사를 생성해내는 이란 계정도 있었다.
전문가들은 AI산업이 오픈소스 모델을 중심으로 발전해 누구나 쉽게 자신의 목적에 맞는 AI 시스템을 개발할 수 있게 되면서 부작용이 속출하고 있다고 지적한다. 중국 AI 스타트업 딥시크가 탄생한 것도 서방의 오픈소스 AI 모델이 토대가 됐다. AI를 국가 전략 자산으로 삼은 미국의 대중(對中) 견제 수위가 한층 높아질 것이라는 분석이 나온다.
실리콘밸리=송영찬 특파원 0full@hankyung.com
관련뉴스
