한 남성의 얼굴에 블랙핑크 제니·로제·지수, 아이브 장원영, 있지 유나, 스트레이키즈 현진 등 K팝 스타의 얼굴을 차례로 합성한 인공지능(AI) 영상이 사회관계망서비스(SNS)에서 빠르게 확산하며 논란이 커지고 있다.
단순히 얼굴 이미지를 덧씌우는 수준을 넘어 표정과 조명까지 자연스럽게 반영되는 듯한 기술이 시연되면서 연예인뿐 아니라 일반인의 얼굴까지 악용될 수 있다는 우려도 함께 제기되고 있다.
◇한 남성 얼굴에 제니·장원영·유나 번갈아 합성
5일 각종 온라인커뮤니티에는 '딥페이크보다 더 위험한 AI 기술'이라는 제목으로 해당 영상이 빠르게 퍼지고 있다. 영상에는 블랙핑크 제니·로제·지수를 비롯해 아이브 장원영, 있지 유나, 아일릿 모카, 스트레이키즈 현진 등 다양한 K팝 아이돌 얼굴이 등장한다. 한 남성의 얼굴을 기반으로 여러 아이돌의 얼굴이 번갈아 합성되는 방식이다.
해당 기술은 기존 딥페이크와 다른 방식이라는 평가도 나온다. 과거 딥페이크가 얼굴 이미지를 단순히 덧씌우는 방식이었다면, 최근 공개된 영상은 웃거나 찡그리는 미세한 표정 변화와 얼굴 방향, 조명까지 반영되는 것처럼 보인다.
관련 영상을 제작한 개발자로 알려진 'UBC AI MAN'은 자신의 SNS 계정을 통해 합성 영상을 지속해서 게시하고 있다. 그는 게시물에서 "곧 출시할 앱을 팔로우해 달라"며 기술을 홍보하는 한편, 관련 기술을 배우고 싶다는 요청이 많아 대응에 시간이 걸리고 있다는 취지의 안내 글도 올렸다.
현재 계정에 올라온 아이돌 얼굴 합성 영상은 30여 개가 넘는 것으로 알려졌다. 이 가운데 엔하이픈 성훈을 합성한 영상은 5일 기준 조회수 220만 회, 아일릿 모카 영상은 211만 회를 기록하는 등 일부 콘텐츠는 수백만 회 조회수를 넘기며 빠르게 확산하고 있다.
다만 지금까지 공개된 영상은 특정 인물을 비방하거나 성인 콘텐츠 등에 활용된 사례라기보다 다양한 아이돌 얼굴을 바꿔가며 기술 구현 수준을 보여주는 시연(데모) 영상에 가까운 것으로 보인다.
◇"일반인까지 피해 커질 수 있어" 커뮤니티서 우려 확산
온라인에서는 고도화된 AI 기술의 발전이 범죄로 악용될 수 있다는 우려가 잇따르고 있다. 일부 팬들은 "우리 아이돌도 만들어 달라", "기술이 신기하다"는 반응을 보였지만, 다른 한편에서는 이러한 기술이 범죄로 이어질 가능성을 지적하며 규제가 필요하다는 목소리가 지배적이다.한 온라인 커뮤니티 이용자는 "연예인뿐 아니라 일반인 사진을 이용해 딥페이크 포르노를 만들 수 있을 것 같아 무섭다"고 우려했다. 또 다른 이용자는 "AI 기술이 빠르게 발전하면서 범죄에 악용되는 사례도 늘어날 것 같다"며 "가족을 사칭하는 AI 음성 피싱 같은 범죄도 더 많아질 수 있다"고 지적했다.
일부 SNS에서는 여자 아이돌 얼굴을 합성한 노출 이미지나 성인 콘텐츠가 떠돌고 있다는 주장도 제기되고 있다. 기술이 발전하면서 합성 흔적을 식별하기 어려워지고 있다는 점 역시 문제로 지적된다.
실제로 과거 이미지 공유 플랫폼 핀터레스트에서도 AI로 합성된 여자 아이돌 노출 사진이 확산해 논란이 된 바 있다. 다만 한경닷컴 확인 결과 해당 게시물은 현재 대부분 삭제되거나 접근이 제한된 상태며 'AI', '합성', '딥페이크'에 관련된 키워드 검색도 불가능하다.
해외 온라인 커뮤니티에서도 비슷한 논의가 이어지고 있다. 미국 커뮤니티 레딧에는 "무료 AI 포르노 비디오 생성기가 무엇이냐", "여자친구 얼굴을 합성한 성인 영상을 만들 수 있느냐", "실시간 얼굴 합성 AI를 공유해 달라"는 등의 글이 올라오고 있다.
일부 게시글에서는 "요즘은 누구나 AI로 가짜 포르노 영상을 만들 수 있다. 사용하기 쉬운 앱 때문에 진짜 같은 합성 영상이 넘쳐난다"는 주장도 제기됐다.
실제로 관련 기술은 이미 일반 이용자들이 쉽게 접할 수 있는 수준까지 퍼진 상태다. 구글 플레이스토어에 따르면 이날 기준 AI 페이스 스왑 관련 앱들은 앱 마켓에서 100만~500만 회 이상 다운로드를 기록하며 빠르게 확산하는 추세다.
◇전문가 "합성 콘텐츠 무분별 확산 우려…더 확고한 규제 필요해"
전문가들은 생성형 AI 기술이 빠르게 발전하면서 연예인 얼굴 등을 활용한 합성 콘텐츠가 법적·제도적 통제를 벗어나 퍼질 가능성이 있다고 지적한다.
김명주 바른AI연구센터 센터장은 "국내에서는 이런 문제가 주로 초상권 침해와 연결되는 경우가 많지만, 미국에서는 개인의 이름이나 얼굴, 이미지의 상업적 이용을 보호하는 ‘퍼블리시티권’ 개념으로 접근하는 경우가 많다"며 "최근 시행된 AI 기본법에는 AI로 생성된 콘텐츠임을 표시하도록 하지만 이 같은 의무는 주로 AI 기술을 개발하거나 제공하는 사업자에게 적용되는 경우가 많고, 이를 사용하는 일반 이용자에게는 별도의 의무 조항이 없는 경우가 많아 이용자가 의도적으로 표시를 제거하더라도 현행법 체계에서는 직접적인 처벌 규정이 명확하지 않은 측면이 있다"고 지적했다.
김 센터장은 "유럽연합(EU)은 플랫폼의 불법·유해 콘텐츠 모니터링 책임을 법적으로 강화하는 방향으로 규제를 추진하고 있지만 글로벌 플랫폼 상당수가 미국 기업인 만큼 국내 규제가 동일하게 적용되지 않는 역차별 문제가 발생할 수 있다"며 "현재는 초상권 침해나 성적 합성물 제작 등 피해가 발생할 경우 개별 법률로 처벌이 가능하지만, AI 기술 자체를 직접 규율하는 규정은 아직 제한적인 상황"이라고 덧붙였다.
유지희 한경닷컴 기자 keephee@hankyung.com
관련뉴스
