굿모닝작전
21대 대통령 선거 기간에 특정 후보가 본인이 하지 않은 발언을 마치 하는 것처럼 조작된 영상이 온라인에 퍼졌다. 국립과학수사연구원(국과수)은 인물 음성의 미세한 비일치성을 탐지해 이 영상이 딥페이크라고 판단해 유권자에게 혼란을 줄 수 있는 상황을 차단했다.
사회관계망서비스(SNS)에서 얻은 지인의 얼굴 사진을 나체 이미지에 합성해 온라인에 유포한 사건이 발생했다. 국과수는 해당 영상을 분석해 합성된 얼굴의 경계면에 나타난 왜곡을 포착했다. 해당 감정 결과는 수사 착수를 위한 결정적 증거로 활용됐다.
인공지능(AI)을 활용한 딥페이크 판별 기술이 범죄수사 현장에 본격적으로 도입되고 있다. 행정안전부와 국과수는 30일 'AI 딥페이크 분석모델'의 활용 성과를 공개했다.
딥페이크는 AI 기술을 이용해 사진이나 영상에 다른 이미지를 중첩·결합해 실제와 매우 흡사한 가짜 이미지나 영상을 만드는 기술을 말한다. 최근 이 기술을 악용한 범죄가 급증하고 있으나 딥페이크 판별 기술이 부족한 탓에 수사기관에서 증거물 분석에 어려움을 겪고 있는 실정이다. AI 딥페이크 분석모델이 개발된 배경이다.
실제로 딥페이크 성범죄영상물 시정 요구는 2022년 3574건에서 2023년 7187건, 2024년 2만3107건으로 폭증했다. 이에 행안부는 수사기관이 관련 증거물 분석에 어려움을 겪는 상황을 극복하기 위해 딥페이크 의심 이미지·영상·음성의 진위를 판별하는 분석 모델을 개발했다.
지난 4월 모델 검증을 마친 행안부는 5월부터 경찰청 등 일선 수사기관으로부터 감정 의뢰를 받기 시작했다. 5~6월 두 달간 이 모델을 통해 감정한 딥페이크 증거물만 60종, 관련 사건은 15건에 이른다. 이 중 13건은 제21대 대선 기간 중 대통령 후보 관련이었고, 나머지 2건은 디지털 성범죄였다. 특히 지난 대선 기간에는 중앙선거관리위원회에 이 모델을 공유해 유튜브 등 온라인상 불법 딥페이크 선거물 1만여건을 탐지하고 삭제하는 데 기여했다.
이 모델은 이미지·영상·음성 등 변조가 의심되는 파일을 자동 분석하며 합성 확률과 시간별 변조율을 예측해 딥페이크 여부를 신속하게 판별하도록 돕는다. 얼굴의 눈·코·입과 같은 특정 부위별 변조는 물론, 반복된 업로드·다운로드로 품질이 저하된 증거물들에 대해서도 세밀하게 분석할 수 있다.
이 모델 개발에 231만건에 달하는 공개 데이터셋과 자체 제작 콘텐츠 등 방대한 딥페이크 데이터가 활용됐다. 탐지 정확도를 영상 94.98%, 음성 86.2% 수준까지 끌어올려 딥페이크 탐지력이 획기적으로 향상됐다는 게 정부의 설명이다.
행안부와 국과수는 여성가족부, 방송통신위원회 등에도 이 모델을 단계적으로 확대 적용하겠다는 계획을 밝혔다. 행안부 관계자는 "과거 기술적 한계로 수행하지 못했던 딥페이크 감정을 국내 최초로 공식화하고, 과학적 증거에 기반한 수사 체계를 마련했다는 점에서 의미가 크다"며 "딥페이크 범죄 수사에 획기적인 전환점이 마련될 것"이라고 했다.
김영리 기자 smartkim@hankyung.com
관련뉴스
