AI로 만든 이병철·정주영 '가짜 명언' 판친다

“돈은 인생의 전부가 아닙니다. 진짜 부는 통장에 있지 않고 마음에 있습니다.”

국내 한 유튜브 채널에는 고(故) 이병철 삼성그룹 창업회장이 이같이 발언하는 강연 영상이 올라왔다. 하지만 그는 생전에 이런 강연을 한 사실이 없다. 인공지능(AI)으로 이 창업회장의 생전 모습과 목소리를 본떠 만든 가짜 영상이다. 이렇게 조작한 대기업 총수 강연으로 운영되는 이 채널은 개설 4개월이 채 되지 않았지만 전체 조회수가 247만 회, 구독자는 약 2만4000명을 넘어섰다. 하루평균 40분 분량 영상이 두 개 이상 업로드되고 있다.

◇이병철·정주영 복제해 만든 ‘가짜 명언’

소셜미디어를 중심으로 작고한 유명 기업인의 얼굴과 목소리를 앞세운 허위 콘텐츠가 무분별하게 확산하고 있다. 그럴싸하게 꾸민 텍스트를 AI에 입력해 가짜 강연을 만들고, 이를 자기 계발에 도움이 되는 것처럼 포장하는 식이다.

조회수와 광고 수익을 노린 콘텐츠 생산 구조가 사실과 허구의 경계를 허물어 신뢰 위기로 이어질 것이란 지적이 나온다.

지난해 4월 개설된 고(故) 이건희 삼성그룹 회장의 AI 강연 채널은 현재까지 조회수 335만4918회를 기록했다. 지난해 8월 개설된 고(故) 정주영 현대그룹 창업회장의 AI 강연 채널 역시 조회수가 154만6156회에 달한다.

‘AI 보이스’(음성 복제) 기술이 대중화해 고비용 장비나 전문 인력 없이도 영상 제작이 가능해지자 비슷한 콘텐츠가 급증하는 추세다. 사망한 기업인은 성공·부·리더십이라는 서사를 갖추고 있어 명언형 콘텐츠와 결합하기 쉽다. 생존 인물과 달리 당사자 반론이나 직접적인 법적 대응 가능성이 작다는 점도 제작자에게 리스크를 낮추는 요인으로 작용한다. 국내 AI 음성복제 시장은 2023년 기준 약 640억원에서, 2030년에는 약 3739억원까지 성장할 것으로 예상된다.

제작비 대비 높은 이익을 거둘 수 있다는 점도 이들에게 매력적이다. 유튜브 수익은 통상 조회수 1000회당(RPM) 2000~5000원 남짓이다. 시청 시간이 길고 완주율이 높을수록 광고 노출이 늘고 단가가 올라간다.

임명호 단국대 심리학과 교수는 “심리학적으로 긍정적인 특징을 확대해 받아들이는 ‘후광효과’로 인해 성공한 기업인이 전하는 자기계발 메시지가 더 설득력 있게 느껴진다”며 “익숙한 목소리와 결합하면서 시청자 입장에선 실제인 것처럼 믿을 수밖에 없을 것”이라고 말했다.

◇허위 정보 넘쳐나는데 손놓은 유튜브

AI 음성 복제 활용을 규율하는 국내 법적 기준이 부재한 틈을 타 가짜 콘텐츠가 양산되고 있지만 유튜브 등 플랫폼들은 사실상 손을 놓고 있다. AI 생성물에 출처를 표시하도록 가이드라인을 마련하긴 했으나 제작자 자율에 맡겨져 있어 현실성이 떨어진다는 비판도 제기된다.

유튜브 쇼츠 등을 통해 퍼진 기업인의 ‘가짜 명언’이 반복 재생산되면서 실제 발언이나 역사적 사실로 오인되는 사례도 적지 않다. 영상 게시자나 대본 출처가 불분명해 사후 검증과 단속이 쉽지 않아 유튜브 댓글마다 “회장님 명언에 감동했다”는 식의 반응이 넘쳐나는 실정이다.

향후 법적 문제로 비화될 가능성이 크다. 사망자 음성과 이미지를 본인(사전)이나 유족 동의 없이 상업적으로 활용하는 행위 자체가 사후 인격권 침해 소지가 있기 때문이다.

이재성 중앙대 AI학과 교수는 “국내 AI기본법을 해외 플랫폼에 적용하는 데 한계가 있을 수밖에 없다”며 “플랫폼의 자율 규제와 이용자 보호 장치 강화가 병행돼야만 허위 정보 범람을 막고 건강한 AI 보이스 산업 발전을 유도할 수 있을 것”이라고 말했다.

김유진 기자 magiclamp@hankyung.com