[연합시론] 美 'AI 딥페이크'에 발칵…총선 코앞 한국도 남일 아니다
(서울=연합뉴스) 미국의 세계적인 팝스타 테일러 스위프트의 얼굴에 음란물을 합성한 '딥페이크'가 최근 온라인으로 삽시간에 퍼져 미국 사회가 발칵 뒤집혔다. 스위프트가 지난해 타임의 '올해의 인물'로 선정될 정도로 워낙 글로벌 스타이다 보니 그 파장이 더 컸다. 백악관 대변인까지 나서 "매우 우려스럽다"는 반응을 냈다. 소셜미디어 엑스(X·옛 트위터) 등을 통해 확산한 이 딥페이크는 삭제되기 전까지 약 19시간 만에 4천700만회가 조회됐다고 미국 언론이 전했다. 딥페이크는 딥러닝(deep learning)과 가짜(fake)란 말의 합성어로, 인공지능(AI) 기술을 기반으로 만들어낸 가짜 이미지, 오디오, 비디오 등을 말한다. 스위프트 딥페이크 사건을 계기로 AI를 이용한 가짜 이미지 생성에 강한 규제가 필요하다는 미국 내 목소리가 더욱 커지고 있다.
문제의 스위프트 딥페이크는 마이크로소프트(MS)의 AI 생성 도구인 '디자이너'로 만들어졌다는 주장이 제기돼 MS가 이를 조사하고 있고, 사티아 나델라 MS 최고경영자(CEO)는 "(딥페이크와 싸우기 위해) 우리는 빨리 움직여야 하고, 행동해야 한다"고 밝혔다. 오는 11월 미국 대통령선거와 관련해서도 벌써 딥페이크를 악용한 선거운동 사례가 나와 미 당국이 수사 중이다. 이달 23일 치러진 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 "이번 화요일에 투표하지 마세요. 그것은 도널드 트럼프를 도울 뿐입니다"라는 조 바이든 대통령의 가짜 목소리를 담은 전화가 무차별적으로 걸려 와 큰 혼란을 줬다. AI를 기반으로 음성을 합성해 마치 유명 인사의 메시지인 것처럼 들리도록 조작해 유권자들을 혼란에 빠뜨리는 것이다. 미국에서는 올들어 최소 13개 주에서 AI를 활용한 가짜 이미지나 오디오, 비디오 콘텐츠로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안이 추진되고 있다고 한다.
4월 총선을 코앞에 둔 한국도 'AI 악용'이 남의 일이 아닌 상황이다. 생성형 AI는 빠르게 발전해 지금은 일반인도 누구나 다양한 일반 프로그램을 이용해 쉽게 가짜 영상이나 음성을 만들 수 있다. 이를 선거에 악용하면 선거 후보자의 가짜 공약 연설이나 인터뷰를 순식간에 만들어낼 수도 있다. 그렇지 않아도 극단적인 팬덤 정치의 폐해가 심각한 한국에서는 SNS를 통한 콘텐츠 확산 속도가 어느 나라보다 빠른 것으로 알려져 있다. 특히 혐오를 부추기는 네거티브 딥페이크는 그 파급력이 더 클 수 있다. 다행히 개정 공직선거법에 따라 이번 선거부터는 AI 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등을 활용한 선거운동을 금지하는 조치가 취해진다. 이 규정은 29일부터 적용되는데, AI 기술로 만든 가상임을 표시해 활용해도 처벌받는다. 선관위는 이달 11일부터 AI 전문가와 모니터링 요원 등으로 구성된 전담팀을 통해 딥페이크 영상 등을 활용한 선거운동을 감시하고 있다는데 선거가 임박할수록 더 많이 쏟아질 콘텐츠를 과연 감당해낼 수 있을지 걱정이다. 추가 보완대책도 검토해야 한다. 종국에는 AI의 오·남용을 막을 수 있는 제도적 장치가 하루빨리 마련돼야 한다. 물론 AI 산업 생태계의 확장을 막지 않는 범위에서 적절한 규제가 이뤄져야 한다.
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
(서울=연합뉴스) 미국의 세계적인 팝스타 테일러 스위프트의 얼굴에 음란물을 합성한 '딥페이크'가 최근 온라인으로 삽시간에 퍼져 미국 사회가 발칵 뒤집혔다. 스위프트가 지난해 타임의 '올해의 인물'로 선정될 정도로 워낙 글로벌 스타이다 보니 그 파장이 더 컸다. 백악관 대변인까지 나서 "매우 우려스럽다"는 반응을 냈다. 소셜미디어 엑스(X·옛 트위터) 등을 통해 확산한 이 딥페이크는 삭제되기 전까지 약 19시간 만에 4천700만회가 조회됐다고 미국 언론이 전했다. 딥페이크는 딥러닝(deep learning)과 가짜(fake)란 말의 합성어로, 인공지능(AI) 기술을 기반으로 만들어낸 가짜 이미지, 오디오, 비디오 등을 말한다. 스위프트 딥페이크 사건을 계기로 AI를 이용한 가짜 이미지 생성에 강한 규제가 필요하다는 미국 내 목소리가 더욱 커지고 있다.
문제의 스위프트 딥페이크는 마이크로소프트(MS)의 AI 생성 도구인 '디자이너'로 만들어졌다는 주장이 제기돼 MS가 이를 조사하고 있고, 사티아 나델라 MS 최고경영자(CEO)는 "(딥페이크와 싸우기 위해) 우리는 빨리 움직여야 하고, 행동해야 한다"고 밝혔다. 오는 11월 미국 대통령선거와 관련해서도 벌써 딥페이크를 악용한 선거운동 사례가 나와 미 당국이 수사 중이다. 이달 23일 치러진 뉴햄프셔 프라이머리(예비경선)를 하루 앞두고 민주당 당원들에게 "이번 화요일에 투표하지 마세요. 그것은 도널드 트럼프를 도울 뿐입니다"라는 조 바이든 대통령의 가짜 목소리를 담은 전화가 무차별적으로 걸려 와 큰 혼란을 줬다. AI를 기반으로 음성을 합성해 마치 유명 인사의 메시지인 것처럼 들리도록 조작해 유권자들을 혼란에 빠뜨리는 것이다. 미국에서는 올들어 최소 13개 주에서 AI를 활용한 가짜 이미지나 오디오, 비디오 콘텐츠로 선거 관련 허위 정보가 확산하는 일을 방지하기 위한 법안이 추진되고 있다고 한다.
4월 총선을 코앞에 둔 한국도 'AI 악용'이 남의 일이 아닌 상황이다. 생성형 AI는 빠르게 발전해 지금은 일반인도 누구나 다양한 일반 프로그램을 이용해 쉽게 가짜 영상이나 음성을 만들 수 있다. 이를 선거에 악용하면 선거 후보자의 가짜 공약 연설이나 인터뷰를 순식간에 만들어낼 수도 있다. 그렇지 않아도 극단적인 팬덤 정치의 폐해가 심각한 한국에서는 SNS를 통한 콘텐츠 확산 속도가 어느 나라보다 빠른 것으로 알려져 있다. 특히 혐오를 부추기는 네거티브 딥페이크는 그 파급력이 더 클 수 있다. 다행히 개정 공직선거법에 따라 이번 선거부터는 AI 기술 등으로 만든 실제와 구분하기 어려운 가상의 음향, 이미지, 영상 등을 활용한 선거운동을 금지하는 조치가 취해진다. 이 규정은 29일부터 적용되는데, AI 기술로 만든 가상임을 표시해 활용해도 처벌받는다. 선관위는 이달 11일부터 AI 전문가와 모니터링 요원 등으로 구성된 전담팀을 통해 딥페이크 영상 등을 활용한 선거운동을 감시하고 있다는데 선거가 임박할수록 더 많이 쏟아질 콘텐츠를 과연 감당해낼 수 있을지 걱정이다. 추가 보완대책도 검토해야 한다. 종국에는 AI의 오·남용을 막을 수 있는 제도적 장치가 하루빨리 마련돼야 한다. 물론 AI 산업 생태계의 확장을 막지 않는 범위에서 적절한 규제가 이뤄져야 한다.
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스
