지난 7월 유튜브, 인스타그램 등 SNS에서 경복궁이 폭우로 인해 물에 잠긴 영상이 화제가 됐다. 노란 우비를 입은 남성이 "와, 경복궁이 완전히 물에 잠겼어요"라고 말하며 허리까지 차오른 빗물을 헤쳐 나가며 걷는다. 그 뒤로는 물개가 헤엄치고 있다. 얼핏 보면 진짜 같은 이 영상은 인공지능(AI)으로 만든 가짜 영상이다. ○‘비오3’ 등장에 AI 영상도 확산
인스타그램, 유튜브 등 SNS를 타고 수백만 조회수를 기록하는 AI 영상들이 창작과 가짜뉴스 사이 경계에서 논란을 일으키고 있다. 영상과 음성을 동시에 자연스럽게 합성하는 기술이 등장하면서 AI 생성물과 실제 촬영본 간 경계가 사실상 무너졌기 때문이다. 최근엔 오락형 콘텐츠뿐만 아니라 뉴스 보도나 길거리 인터뷰 등 정보 전달형 콘텐츠까지 AI로 제작한 가짜가 등장하기 시작했다.2일 정보통신(IT) 업계에 따르면 최근 SNS에서 구글의 동영상 생성 인공지능 모델 '비오(VEO)3'로 제작한 영상이 확산하고 있다. 구글이 지난 5월 발표한 비오3는 지시문만 입력하면 영상, 효과음, 배경음악, 대사까지 한 번에 완성해주는 AI 영상 생성 플랫폼이다.
이전 세대 모델인 비오2는 영상 생성 기능만을 지원해 합성 음성을 별도로 덧붙여야 했고, 이로 인해 AI로 제작된 영상임을 유추하기가 어렵지 않았다. 그러나 비오3는 업계 최초로 오디오 생성 기능까지 통합해 구현한 프로그램으로, 인물의 입 모양과 대사, 주변 소음까지 흡사 실제 촬영본처럼 정교하게 표현해낸다.
월 2만9000원의 제미나이 프로 이상 유료 멤버십에 가입하면 누구나 비오3를 활용할 수 있다. 제작자들은 챗GPT 등 대형 언어 모델로 다듬은 지시문을 비오3에 입력해 고품질 AI 영상을 손쉽게 제작하고 있다. '먹방' 채널과 뮤직비디오 등 각종 콘텐츠를 AI로 제작해 수익화를 노리는 크리에이터도 등장하고 있다. 녹스인플루언서에 따르면 AI를 이용해 국제정치 풍자 영상을 제작해 올리는 '화성인 릴도지' 채널의 예상 월수익은 약 711만원에 달한다.
○진짜같은 AI 영상에 ‘혼란’
문제는 사회적 혼란을 야기할 수 있는 주제도 AI로 손쉽게 합성된다는 점이다. 지난 6월 인스타그램에 올라온 한 가짜 뉴스 영상은 조회수 224만회를 기록했다. 기자가 "싱크홀 복구공사가 하루 만에 완료됐다. 서울시는 이번 공사를 모범사례로 선정할 방침"이라고 전하는 순간, 도로 위에 깔린 천이 바람에 흩날리며 밑에 숨겨진 싱크홀이 드러나는 장면을 보여준다. 마치 서울시가 싱크홀을 은폐하려 한 것처럼 연출된 이 영상은 비오3로 합성된 것이다. 이를 본 누리꾼들은 "나쁜 서울시장" 등 분노를 표출하는 한편, "어르신들은 이런 영상에 쉽게 속을 것 같다"는 우려를 내비치기도 했다.
또 다른 사례는 최근 SNS에서 퍼진 산 정상에서 참새 떼가 러브버그(붉은등우단털파리)를 포식하는 영상이다. 올해부터 수도권을 중심으로 러브버그가 대량 출몰하는 가운데 '참새가 러브버그의 천적'이라며 유통된 영상이지만, 역시 비오3로 제작된 가짜다. 일부 언론이 이 영상이 AI로 제작됐다는 점을 인지하지 못한 채 그대로 보도하며 논란이 일기도 했다. 전문가들에 따르면 아직까지 러브버그 천적은 명확하게 알려지지 않았다.
이처럼 허위 정보를 담은 AI 영상이 무분별하게 확산하면서 사회적 불안감과 정보 불신을 조장하고 있다는 지적이 나온다. 플랫폼 알고리즘은 특히 이런 자극적 콘텐츠를 상위에 노출해 확산 속도를 더욱 가속화하고 있다. 이런 우려가 나오자 유튜브는 지난 7월부터 "대량 제작, 반복성 높은 비진정성(inauthentic) 콘텐츠에 대한 수익 창출을 본격 제한한다"는 방침을 발표하기도 했다.
전문가들은 AI 생성 정보가 실제 정보와 구분되지 않을 정도로 정교해지면서 허위 정보 확산, 사회적 불안 조장, 명예훼손 등의 부작용이 심화할 것으로 경고한다. 유승철 이화여대 미디어커뮤니케이션학부 교수는 "비오3와 유사한 저가형 모델이 속속 등장하면서 누구나 손쉽게 가짜 뉴스를 제작할 수 있는 환경이 조성됐다"며 "공교육과 평생학습 과정에서 AI 콘텐츠 식별 역량을 가르치는 등 전연령대 미디어 리터러시 프로그램을 마련해야 한다"고 말했다.
김다빈 기자 davinci@hankyung.com
관련뉴스
