한 동유럽 국가의 유명 정치 유튜버 A, B, C가 각각 대통령 선거를 앞두고 친러시아 후보를 지지하고 있었다. 선거 직전 이들은 “친미 후보 측에서 우리를 살해하려고 한다”며 신변의 위협을 주장했다. 공교롭게도 대선 전날 A, B는 사망하고 C는 실종됐다. 그 결과 진상 규명을 요구하는 대규모 시위가 벌어졌고, 선거에서 친러시아 후보가 몰표를 받아 당선됐다. 경찰이 나중에 조사한 결과 A, B, C는 모두 딥페이크 기술로 만든 가상 유튜버였다.한 국가의 대선판이 농락당한 이 전대미문의 사례는 실제로 벌어진 일은 아니다. 2022년 KAIST의 ‘미래전략 보고서’에서 상상한 미래 인공지능(AI) 사회의 한 에피소드다. ‘상상하는 모든 것은 현실이 된다’는 파블로 피카소의 말을 다시 한번 곱씹을 필요가 있다. 올해처럼 한국을 비롯해 세계 76개국에서 42억 명이 투표하는 ‘슈퍼 선거의 해’엔 더욱 그렇다.
공정선거 위협하는 AI
이미 선거에서의 AI 악용은 현실이 되고 있다. AI 최강국이자 오는 11월 대선을 앞둔 미국은 진작에 비상이 걸렸다. 지난 1월 뉴햄프셔에서는 민주당 프라이머리(예비경선)를 하루 앞두고 ‘가짜’ 조 바이든 대통령의 전화가 기승을 부렸다. 딥페이크 기술로 변조된 바이든 대통령의 목소리를 담은 이 전화는 “프라이머리에 투표하는 것은 도널드 트럼프 당선을 돕는 일”이라며 투표 포기를 독려했다. 뉴햄프셔는 2020년 대선 때 바이든 대통령이 경선에서 5위에 그치며 초반 대세론에 타격을 입은 곳이다. 지난해엔 힐러리 클린턴 전 국무장관이 공화당 대선주자였던 론 디샌티스 플로리다주지사를 지지하는 딥페이크 영상이 퍼져 정치권이 발칵 뒤집어졌다.다른 나라도 골치를 썩고 있기는 마찬가지다. 대만에선 1월 대선에서 개표 조작이 있었다는 가짜 뉴스 동영상이 퍼져 각 지방검찰청의 AI 전담 검사들이 수사에 나섰다. 올해 총선을 앞둔 영국에서는 지난해 10월 제1야당인 노동당 대표가 직원에게 폭언하는 딥페이크 음성 파일이 SNS에 퍼졌다.
외부 세력이 악용하면 더 큰 문제
한국도 이 소용돌이에서 벗어나 있지 않다. 중앙선거관리위원회가 오는 10일 국회의원 총선거와 관련해 적발한 딥페이크 게시물은 지난달 26일 기준으로 209건에 달했다. 경찰은 2월 윤석열 대통령이 “대한민국을 망치고 국민을 고통에 빠뜨렸다”고 고백하는 가짜 동영상이 확산하자 수사에 나섰다. 윤 대통령은 이후 지난달 청와대에서 열린 ‘민주주의 정상회의’에서 세계 각국 정상들에게 “AI를 활용한 가짜뉴스 확산은 민주주의에 대한 분명한 도발”이라고 강조했다.가장 우려스러운 것은 AI를 활용한 중국과 북한의 선거 개입이다. 중국과 북한의 해커들은 세계적인 수준으로 평가받고 있다. 뉴욕타임스(NYT)는 1일 중국과 연계된 상당수 가짜 SNS 계정이 대선을 앞두고 바이든 대통령에 대한 공격 글을 유포하고 있다고 보도했다. 한국에서도 국가정보원이 지난해 11월 국내 언론사로 위장한 중국 업체가 웹사이트 38개를 개설해 친중·반미 가짜뉴스 등을 무단으로 퍼뜨린 정황을 포착했다고 밝혔다. AI 기술로 무장한 외부 세력의 선거 개입을 막을 특단의 대책을 지금이라도 강구해야 한다. 중국에 ‘셰셰(謝謝·고맙다)’만 해서는 한국의 민주주의를 지킬 수 없다.
관련뉴스
