[AI픽] 라바웨이브·카이스트, 딥페이크 원천예방 기술 개발

[AI픽] 라바웨이브·카이스트, 딥페이크 원천예방 기술 개발
원본 이미지에 AI 혼란 일으키는 요소 삽입, 생성 막는다

(서울=연합뉴스) 조성미 기자 = 디지털 범죄 대응 기술을 개발하는 라바웨이브가 한국과학기술원(KAIST) 사이버보안연구센터와 공동으로 인공지능(AI)을 쓴 딥페이크를 예방하는 기술을 개발했다고 23일 밝혔다.
라바웨이브와 카이스트 사이버보안연구센터는 생성형 AI 기술에 '적대적 공격'을 하는 방법을 통해 딥페이크 결과물이 생성되지 못하도록 원본 이미지를 보호하는 기술을 개발했다.
딥페이크 차단 기술은 사람의 눈으로는 인지할 수 없는 수준의 미세한 방해 요소(노이즈)를 원본 이미지에 추가해 일반 사용자가 볼 때는 차이를 느낄 수 없지만 AI 모델에게는 치명적인 혼란을 일으켜 딥페이크 생성을 못 하도록 설계됐다.

현재의 딥페이크 탐지 기술이나 디지털 표식(워터마크) 삽입은 이미 생성된 콘텐츠를 찾아내거나 추적하는 수동적 방어라면 이 기술은 보다 능동적인 딥페이크 폐해 예방이라고 설명한다.
라바웨이브는 딥페이크 예방 기술이 다양한 플랫폼과 기기에 적용할 수 있는 범용성을 갖췄다며 스마트폰 제조사, 사회관계망서비스(SNS), 클라우드 서비스 기업, 공공 분야에서 수요가 있을 것으로 예상했다.
csm@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>