"유재석 언제 이런 방송을?"…10만명 본 '국민MC' 알고보니 [유지희의 ITMI]

“안녕하세요 여러분, 유재석입니다. 우리가 살아가는 수많은 이야기들 가운데 누군가에게는 평생 비밀일 수도 있습니다. 오늘 여러분과 들어볼 이야기는….”

익숙한 목소리가 사연을 소개한다. 방송인 유재석 씨가 직접 진행하는 콘텐츠처럼 들리지만 실제 유씨가 한 말이 아니다. 인공지능(AI)으로 합성한 음성이다. 영상 썸네일에도 유씨의 사진을 바탕으로 AI로 만든 이미지를 사용했다.

유명인의 얼굴과 목소리를 AI로 복제해 실제 당사자가 출연한 것처럼 꾸민 유튜브 콘텐츠가 확산하고 있다. 유씨뿐 아니라 이국종 교수, 김형석 교수 등 대중에게 잘 알려진 인물도 비슷한 방식의 콘텐츠에 활용되고 있다. 일부 영상은 조회 수 10만회를 넘어섰다. 하지만 이런 ‘AI 사칭 콘텐츠’를 직접 겨냥해 처벌할 법은 마땅치 않아 규제 공백이 생기고 있다는 지적이 나온다.

○유튜브 속 ‘재석없는 재석팀’

2일 유튜브에 따르면 ‘유재석과 함께하는 이야기’라는 채널에는 최근까지 유씨의 얼굴과 AI 합성 음성을 활용한 영상이 잇따라 올라왔다.

‘20년 동안 아버지가 아니라는 이유로 모진 학대를 받았던 아들’이라는 영상은 조회 수 10만회를 기록했다. ‘60세 환갑 시어머니의 재산을 노리고 요양원을 보낸 사연’, ‘18살 의붓딸의 충격적 임신’ 등 가족 갈등과 재산 다툼을 다룬 영상도 게시됐다.

영상의 구성은 비슷하다. 썸네일에는 AI로 만든 유씨의 얼굴을 크게 내걸고, 영상이 시작되면 유씨와 유사한 AI 음성이 준비된 대본을 읽는다. 채널 소개에도 “유재석과 함께 웃고 울고 공감하며 인생의 이야기를 나눠보세요” 등의 문구가 적혀 있었다.

한 이용자가 댓글에서 AI로 만든 유씨의 음성이라는 점을 지적하자 채널 운영자는 “이는 저희가 청중에게 더 나은 서비스를 제공하기 위해 만든 AI 음성입니다”라고 답했다. AI 사용 사실을 인정하면서도 콘텐츠 자체에는 문제가 없다는 취지로 읽힐 수 있는 답변이다.

온라인에서 논란이 커지고 신고가 이어진 뒤 해당 채널은 사라졌다. 하지만 곧 ‘유재석과 털어놓는 이야기’라는 비슷한 이름의 채널이 다시 등장했다. 운영자의 국가는 베트남으로 표시돼 있었다.

유씨 뿐만이 아니라 최근 유튜브 등에서는 이국종 교수와 김형석 교수처럼 대중적 인지도가 높은 인물의 얼굴과 목소리를 AI로 재현한 콘텐츠도 등장하고 있다. 유명 의사나 교수가 실제로 설명하는 것처럼 건강 정보나 인생 조언, 제품 관련 내용을 전달하는 방식이다.

AI 합성 콘텐츠에 익숙한 이용자라면 어색한 억양이나 반복되는 화면 등을 보고 가짜임을 알아차릴 수 있다. 하지만 고령층 등 AI 콘텐츠에 익숙하지 않은 이용자는 실제 유명인이 출연하거나 직접 한 말로 받아들일 가능성이 있다.

누리꾼 사이에서는 곧바로 우려가 나왔다. “AI로 유재석을 사칭해도 고소를 안 당하느냐”, “우리는 딱 봐도 AI인 걸 알지만 어른들은 모를 수 있다”는 반응이 이어졌다.

○법보다 빠른 AI…유명인 얼굴·목소리 복제 ‘회색지대’

법이 바뀌는 속도보다 세상이 바뀌는 속도가 빠르다. ‘가짜 유재석’은 그 사이에 생긴 AI 사칭의 회색지대를 보여준다.유명인의 얼굴과 목소리를 무단으로 활용했다면 퍼블리시티권이나 부정경쟁방지법 등을 근거로 대응할 수 있다. 유씨가 출연한 방송 프로그램까지 모방했다면 방송사도 저작권 침해 등을 검토할 수 있다. 다만 유명인의 얼굴이나 목소리를 AI로 복제해 일반 콘텐츠를 만드는 행위 자체를 포괄적으로 처벌하는 별도 규정은 없다.

올해 시행된 AI기본법으로도 이런 콘텐츠를 직접 처벌하기는 어렵다. 법은 주로 AI 도구와 서비스를 제공하는 사업자에게 AI 생성물 표시 의무를 두고 있어, 이를 이용해 영상을 만드는 유튜브 크리에이터까지 어떻게 규율할지는 여전히 논란이다.

김명주 AI안전연구소 소장은 “이용자에게도 AI 생성물 표시 의무 등을 부과해야 하는 것 아니냐는 요구가 나오고 있지만 아직 회색지대”라며 “현재로서는 당사자나 방송사가 자신의 이익이나 명예가 침해됐다는 점을 근거로 기존 법률에서 적용 가능한 조항을 찾아 대응하는 방식”이라고 설명했다.

일부 분야에서는 뒤늦게 규제가 마련되고 있다. 지난 5월 개정된 화장품법과 약사법은 오는 11월부터 AI로 만든 가상의 의사·약사·대학교수 등이 화장품이나 의약품을 추천하는 것처럼 소비자를 오인시키는 광고를 규제한다. ‘가짜 전문가’를 앞세운 AI 광고가 늘어난 데 따른 조치다.

하지만 이 역시 화장품·의약품 광고에 한정된다. 가짜 유재석이 가족 사연을 읽는 것처럼 일반적인 유명인 사칭 콘텐츠까지 규율하지는 못한다. 결국 문제가 불거진 분야마다 법이 하나씩 뒤따라가는 모양새다. 성적 딥페이크는 성범죄 관련 법률, 가짜 전문가 광고는 화장품법·약사법, 유명인의 얼굴과 목소리 도용은 퍼블리시티권이나 부정경쟁방지법 등을 각각 적용해야 한다. AI 사칭 기술은 빠르게 확산하고 있지만 이를 포괄하는 규제는 아직 빈틈이 남아 있는 셈이다.

[유지희의 ITMI]는 국내외 IT와 관련된 트렌드와 현장 취재, 이슈, 인터뷰까지 다양한 TMI(Too Much Information)를 전합니다.

유지희 기자 keephee@hankyung.com