최근 골프 영웅 박세리가 배우 김승수와 결혼식을 올렸다는 내용에 뉴스 자막과 앵커 멘트까지 곁들여진 영상이 순식간에 1000만회 가까운 조회수를 기록했다. 사실 이 영상은 인공지능(AI)이 짜깁기한 '가짜 뉴스'였다. 앞서 암 투병 중인 박미선이 유튜브에서 '별세'했다는 가짜 뉴스에 시달리자 TV 방송에 출연해 "직접 생존 신고하러 나왔다"고 말하기도 했다. 이처럼 조회수만을 노리고 만든 저품질 AI 생성 콘텐츠, 이른바 'AI 슬롭(Slop·오물)'이 대중에 큰 피로감을 주고 있다는 지적이 나온다.
"사람인 줄 알았는데"…'소름'
시장조사전문기업 엠브레인 트렌드모니터가 지난 15~20일 전국 만 1369세 1200명 대상으로 조사한 결과에 따르면 AI 생성 콘텐츠에 대한 대중의 피로감이 상당한 것으로 나타났다. 응답자의 85.1%가 "최근 AI 콘텐츠가 눈에 띄게 늘었다"고 답했고, 10명 중 7명(73.9%)은 하루에도 몇 번씩 AI 콘텐츠를 접하고 있었다고 했다. 그런데 응답자의 절반 이상(55.6%)은 AI 콘텐츠를 자주 접할수록 부정적 감정이 커진다고 답했고, 왠지 모를 불쾌감을 느낀다는 응답(48%)도 절반에 가까웠다.'진위 구분'이 어렵다는 게 특히 문제로 꼽혔다. 응답자의 62.3%는 AI 콘텐츠를 실제 사람이 만든 것으로 착각했다가 나중에야 사실을 알게 된 경험이 있었다고 털어놨다. 이 과정에서 이용자들은 '신기하다(35.8%)'는 반응에 이어 '소름 돋는다(26.9%)', '혼란스럽다(26.1%)', '무섭다(24.9%)' 등 부정적 감정을 느낀 것으로 나타났다. 특히 표정이나 움직임이 어색한 '불쾌한 골짜기' 현상(66.8%)과 실존 인물을 합성한 딥페이크(61.7%)에 대한 거부감이 두드러졌다.
엠브레인 관계자는 "AI 생성 콘텐츠가 하나의 디지털 문화로 자리 잡고 있지만 활용 범위가 넓어지면서 우려의 목소리도 함께 커지고 있다'며 "AI가 만든 콘텐츠를 실제 창작물로 오인하거나 출처를 인지하지 못한 채 소비하는 경험이 늘면서 콘텐츠의 신뢰성과 진위 여부를 둘러싼 불안이 확산하고 있기 때문"이라고 분석했다.
세계 최대 'AI 슬롭' 소비국이라는 불명예
하지만 한국은 전 세계에서 이러한 '오물'을 가장 많이 소비하는 국가로 꼽혔다. 영상 편집 플랫폼 카프윙 분석에 따르면 한국 기반 AI 슬롭 채널의 누적 조회수는 84억5000만회로 2위 파키스탄(53억회)과 3위 미국(34억회)과 큰 격차로 세계 1위를 기록했다.자극적 소재와 뉴스 형식을 빌린 AI 슬롭이 이용자들의 판단력을 흐리며 막대한 광고 수익을 챙기고 있는 것이다. 전 세계 상위 AI 슬롭 채널들이 벌어들이는 연간 광고 수익만 약 1690억원에 달하는 것으로 추산된다.
시장조사업체 옴디아 수석 애널리스트인 다우드 잭슨은 "2026년 초 유튜브 영상 수는 300억개에 도달할 전망"이라고 내다봤다. 이러한 영상 수 급증은 쇼츠(짧은 영상)가 주도하고 있으며 전체 신규 업로드의 90% 이상을 차지하고 있다고 옴디아는 분석했다.
칼 빼든 유튜브…양산형 유튜버들 비상
닐 모한 유튜브 최고경영자(CEO)는 올 들어 'AI 슬롭과의 전쟁'을 선포했다. 유튜브는 딥페이크 탐지 기능을 도입하고 AI 생성 영상에 표기를 의무화하는 등 시스템 강화에 나선 상태다. 특히 AI를 이용해 쇼츠 등 영상을 반복해 찍어내는 양산형 유튜버에게는 수익 창출 정지부터 채널 삭제까지 철퇴를 내리고 있는 것으로 파악된다.
상황이 이렇게 되자 최근 국내에서는 이른바 '채널 삭제 및 수익 정지 피하는 법'이 새롭게 관심을 끌고 있는 형국이다. 유튜브 수익화 강의 업계에서는 "유튜브가 칼을 빼들었다. 살아남는 무기는 사람 냄새다. AI 위에 사람의 손맛을 더해야 한다"거나 "단순한 양산형 쇼츠라면 알고리즘 노출이 어려우니 콘텐츠 차별화와 품질 관리가 핵심 전략이어야만 한다" 등의 팁을 주고 있다.
유튜브는 가이드라인을 통해 "유튜브에서 수익을 창출하고 있다면 '진정성' 있는 콘텐츠를 자체적으로 제작해야 한다"며 "자체적으로 제작한 콘텐츠여야 한다. 다른 사람의 콘텐츠를 차용했다면 대폭 수정해 나만의 콘텐츠로 만들어야 한다"고 안내했다. 또한 "대량 생산되거나 반복되는 콘텐츠여선 안 된다"며 "콘텐츠는 조회수 획득만을 목적으로 해서는 안 되며, 시청자에게 즐거움이나 정보를 제공해야 한다"고 부연했다.
AI 기본법 시행… 규제 첫발
우리나라는 지난달 22일부터 세계 최초의 포괄적 인공지능 법령인 'AI 기본법(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)'을 전격 시행하며 대응에 나섰다. 국민적 인식도 규제 강화 쪽으로 쏠려 있는 상태다. 엠브레인 조사 결과 응답자의 81.6%가 "AI 제작 여부를 사전에 고지해야 한다"고 답했으며 워터마크 표기 의무화(80.3%)와 법적 규제 강화(79.3%)에도 압도적인 찬성표를 던졌다.이번 법안의 핵심은 AI 산업의 진흥과 동시에 이용자 신뢰를 확보하는 데 있다. 특히 오픈AI, 구글, 네이버 등 대형 AI 사업자들은 생성형 AI 결과물에 워터마크를 의무적으로 부착해야 한다. 딥페이크처럼 실제와 혼동하기 쉬운 콘텐츠에는 가시적 표시가 필수적이며, 이를 어길 경우 최대 3000만원의 과태료가 부과된다.
정부는 국민의 생명이나 권리에 중대한 영향을 끼칠 수 있는 의료, 금융, 자율주행 등 10개 영역을 '고영향 AI'로 지정해 관리 감독을 강화하기로 했다. 다만 기술 개화기임을 감안해 처벌보다는 현장 안착에 무게를 두고 최소 1년 이상의 유예 기간을 거칠 계획이다.
홍민성 한경닷컴 기자 mshong@hankyung.com
관련뉴스
