중국 공산당에 유리한 정보를 확산시키는 가상 뉴스 매체에서 인공지능(AI) 프로그램으로 만든 `딥페이크`(deepfake·합성조작) 앵커가 활동하는 사실이 확인됐다고 AFP 통신이 8일 보도했다.
미국의 서비스형 소프트웨어(SaaS) 기업 그래피카는 보고서에서 `울프 뉴스`(Wolf News)라는 친중국 가상 매체에서 활동하는 남녀 앵커가 중국 친정부 배우를 모방해 합성 조작된 가상 인물임을 확인했다고 밝혔다.
잭 스터브스 그래피카 부사장은 AI가 창조한 가상 인물을 활용한 동영상으로 기만적인 친정부 콘텐츠를 만든 것을 발견한 것은 이번이 처음이라고 말했다.
그래피카가 분석한 한 영상에서 자신을 알렉스라고 밝힌 남성 가상 앵커는 만연한 총기 폭력에 대한 미국 정부의 무대책을 비판했고, 다른 영상에서 여성 가상 앵커가 미국과 중국 간 `강대국 협력`의 중요성을 강조했다.
그래피카는 트위터와 페이스북, 유튜브 등 플랫폼에서 친중국 허위정보 활동을 추적하다가 딥페이크 가상 앵커들을 발견했다며 이들은 영국 런던의 AI 스타트업 신세시아(Synthesia)의 프로그램으로 합성된 것이 거의 확실하다고 설명했다.
AI가 발전하면서 이를 활용해 진짜 같은 딥페이크 이미지가 만들어지고 사람들이 실제 하지 않은 말을 한 것처럼 보이도록 합성한 동영상 등이 등장하는 등 AI가 허위정보 조작 등에 악용될 수 있다는 우려도 커지고 있다.
실제로 페이스북을 운영하는 메타는 지난해 볼로디미르 젤렌스키 우크라이나 대통령이 국민들에게 무기를 버리고 러시아에 항복하라고 촉구하는 내용의 딥페이크 동영상을 삭제하기도 했다.
이에 앞서 중국 정부는 지난달 10일부터 AI 기반의 이미지·오디오·텍스트 생성 소프트웨어 등을 규제하는 `인터넷 정보 서비스 딥 합성 관리 규정`을 시행, 세계 주요국 중 처음으로 딥페이크에 대한 포괄적 규제를 시작했다.
이 규정에 따르면 딥페이크 서비스 제공자와 이를 이용하는 콘텐츠 제작자는 해당 기술을 사용해 콘텐츠를 만들 경우 그러한 사실을 눈에 보이게 표시하고 디지털 표식(워터마크)을 붙여 원본을 추적할 수 있도록 해야 한다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 박근아 기자
twilight1093@wowtv.co.kr관련뉴스
