"정치인이 이름 부르며 전화"…AI, 인도 선거 어떻게 바꿨나

"정치인이 이름 부르며 전화"…AI, 인도 선거 어떻게 바꿨나
AI 아바타 동원, 수십개 언어로 '초개인화' 선거운동
"당장은 영향력 의문, 장기적으론 문제 될 수도"


(서울=연합뉴스) 김연숙 기자 = 오는 19일 시작되는 인도 총선에서 인공지능(AI)을 도구로 활용한 '초개인화'된 선거 운동이 펼쳐지고 있다고 미국 일간 뉴욕타임스가 18일(현지시간) 보도했다.
유권자가 거의 10억명에 이르는 인도에서 AI 생성형 이미지를 동원해 한표를 호소하고 있다.
왓츠앱에서는 나렌드라 모디 인도 총리가 일련의 유권자들의 이름을 부르며 연설하는 영상을 볼 수 있다.
여당 인도국민당(BJP) 관계자들도 왓츠앱에서 AI 아바타로 특정 유권자들에게 정부 혜택에 관한 개인 메시지를 보내고 투표를 요청하고 있다.
각 정당은 문자 메시지뿐만 아니라 복제된 음성을 사용해 직접 전화를 걸기도 한다. 이는 모두 챗GPT와 같은 챗봇으로 구동된다.
영상은 인도에서 쓰이는 수십 개의 언어로 자동 생성된다. 정치 지도자의 목소리로 전화를 걸어 지지를 구하는 AI 챗봇 전화 메시지도 가능하다.
인도의 한 AI 스타트업은 올해 정치권으로부터 받은 AI 아바타 광고 제작 요청이 200건에 이른다고 전했다.
애초 배우들을 위한 아바타 광고를 제작해왔던 이 업체는 이 중 14건을 맡아 작업 중이다.
오디오 녹음과 프로필 사진 등 약 5분 분량의 자료가 있으면 오픈 소스 AI 시스템을 활용, 4분 만에 약 20건의 개인화된 인사말 비디오를 만들어낸다.
이 업체가 하루 제작할 수 있는 영상은 최대 1만건에 이른다.

이러한 선거운동은 기존 방식에 비해 소요 비용과 시간이 적다. 앞으로 선거에서는 필수 도구가 될 수 있다고 NYT는 내다봤다.
과거에는 유권자에게 전화를 걸면 전화를 끊곤 했지만, 지금은 AI를 이용해 유권자의 이름을 불러주면 전화를 끊지 않고 관심을 보인다고 한다.
인도 기술 분석 사이트 미디어나마의 에디터 니킬 파화는 인도인들에게 개인화된 메시지는 특히 강력하다고 말했다.
그는 "인도는 유명인을 흉내 내는 사람과 사진 찍는 것을 좋아하는 나라"라며 "만약 총리한테 전화를 받았는데 총리가 그들이 어디 살고 그들의 문제가 무엇인지 아는 것처럼 말하면 사람들은 좋아할 것"이라고 말했다.
그러나 기술 오용을 막을 수 있는 안전장치는 없다.
챗봇과 개인화된 영상은 무해해 보일 수도 있지만, 유권자들이 점차 실제와 합성 메시지를 구별하는 데 어려움을 겪을 수 있다는 우려가 나온다.
인도 비정부기구 인터넷자유재단(IFF) 프래틱 와그레 집행이사는 AI 콘텐츠가 올해 선거에서 영향을 미칠 만큼 설득력이 있는지 의문을 제기하면서도, 장기적으로는 문제가 될 수 있다고 지적했다.
그는 "사람들이 정보를 받아들이는 데 있어 이를 한번 표준으로 삼고 나서, 6개월 뒤에 사기성 동영상이 나오면 어떤 일이 벌어지겠는가"라고 말했다.
nomad@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>