최근 인공지능(AI)으로 생성한 사회관계망서비스(SNS) 계정을 통해 정치적 메시지를 퍼뜨리는 일이 늘고 있다.
황희두 노무현재단 이사는 지난달 26일 자신의 사회관계망서비스(SNS)를 통해 “젊은 여성 극우 네임드 계정의 정체가 결국 드러났다”면서 “‘AI 딥페이크’ 기술로 만들어진 조작이었다”고 말했다.
그러면서 문제가 된 계정을 함께 공개했다. 해당 계정에는 “자유대한민국을 사랑합니다. 윤어게인!”이라고 적힌 소개글과 함께 한 여성의 셀카 사진이 여러 장이 게시돼 있었다.
하지만 누리꾼들 사이에서 영상의 진위 여부를 둘러싼 의문이 확산하자 계정 운영자는 해당 영상이 실제 인물이 아닌 AI로 제작된 콘텐츠라고 밝혔다. 그는 “어느 시점부터 솔직하게 말씀 드렸어야 했는데 타이밍을 놓쳤다”며 “놀라거나 배신감을 느끼실 분에게 사과 이외는 변명의 여지가 없다”고 얘기했다. 이어 “결과적으로 다수를 속이게 되었다”며 “죄송하다”며 사과했다.
해당 영상뿐 아니라 최근 유튜브 등 SNS에는 AI로 만들어낸 인물이 정치적 주장을 하는 게시물이 빈번하게 올라와 사회적 문제로 떠오르고 있다. 황 이사는 “AI 기술이 인간의 눈으로 진짜와 가짜를 구분하기 어려운 수준까지 왔다”며 “단순한 기술 문제가 아니라 인간의 인지 과정을 공격하는 인지전의 전형적 사례”라고 지적했다.
그러면서 “최근 승무원, 인플루언서 등 실제 여성의 얼굴을 도용해 ‘멸공’, ‘윤어게인’을 외치던 사례도 있었다”고 부연했다.
황 이사는 “속는 사람이 꽤 많다. 인간의 ‘인지 과정’을 공격하는 인지전은 소수의 조작, 알고리즘 확산, 다수의 노출, 인식 왜곡, 세계관 형성의 구조로 확산된다”며 “이를 방치할 경우 민주주의 자체가 무너질 수 있다”고 경고했다.
박수림 한경닷컴 기자 paksr365@hankyung.com
관련뉴스
