메타가 자사의 소셜미디어 플랫폼에서 이용자들이 인공지능(AI)으로 생성된 이미지를 분명히 식별할 수 있게 하는 정책을 시행하겠다고 밝혔다.
메타는 6일(현지시간) 자사의 뉴스 블로그에 "페이스북과 인스타그램, 스레드에서 AI 생성 이미지에 꼬리표(label)를 붙일 것"이라는 제목으로 새로운 정책을 게시했다.
메타는 그동안 자체 AI 도구 '메타 AI'를 사용해 만든 이미지에 '이매진드 위드 AI'(Imagined with AI)라는 꼬리표를 붙여왔는데, 이런 방식을 외부 AI 도구로 만든 콘텐츠에도 적용하겠다고 밝혔다.
이 회사는 그동안 AI 도구로 생성된 이미지에 포함된 보이지 않는 워터마크나 특정 유형의 메타데이터(대량의 데이터를 구조화한 데이터)를 대규모로 식별할 수 있는 도구를 구축해 왔으며, 이를 통해 구글과 오픈AI, 마이크로소프트, 어도브, 미드저니, 셔터스톡 등 다른 업체들의 AI 도구로 생성한 이미지를 인식할 수 있다고 설명했다.
메타는 이 인식 도구를 활용해 앞으로 몇 달 안에 페이스북과 인스타그램, 스레드의 각 앱에서 AI 생성 이미지를 사용자들이 식별할 수 있게 만들겠다고 밝혔다.
그러면서 "세계적으로 중요한 선거가 많이 치러지는 내년까지 이런 접근 방식을 취하겠다"고 덧붙였다.
메타의 글로벌정책 담당 닉 클레그 사장은 "사람과 합성 콘텐츠 간의 차이가 흐려짐에 따라 사람들은 그 경계가 어디인지 알고 싶어 한다"며 "따라서 그들이 보고 있는 사진 콘텐츠가 AI를 이용해 만들어졌을 때 이를 알 수 있게 돕는 것이 중요하다"고 말했다.
아울러 메타는 인터넷 전반에 걸쳐 확산하는 AI 생성 콘텐츠 식별을 위해 업계의 다른 회사들과 협력해 공통 표준을 개발하기 위해 노력 중이라고 밝혔다.
다만 메타는 자사가 구축한 식별 도구가 아직 모든 AI 생성 콘텐츠를 잡아낼 수 있는 것은 아니며, 사람들을 속이려고 하는 이들이 AI 이미지 생성 과정에서 보이지 않는 워터마크나 표식까지 지울 수 있는 방법도 존재해 이 문제를 해결하는 방안도 모색 중이라고 설명했다.
또 음성(오디오)과 동영상(비디오)을 동일한 규모로 생성하는 AI 도구의 경우 식별할 수 있는 신호가 포함돼 있지 않아 아직은 감지가 불가능한 상황이라고 덧붙였다.
최근 미국에서는 AI가 생성한 딥페이크 이미지에 규제가 필요하다는 목소리가 높아지고 있다.
특히 지난달 말 인기 최정상의 팝스타 테일러 스위프트의 사진을 합성한 딥페이크 음란 이미지가 소셜미디어 엑스(X, 옛 트위터) 등에서 확산한 사건이 큰 계기가 됐다.
이후 백악관까지 나서 "우리는 실존하는 사람들의 친근한 이미지, 허위 정보가 사전 동의 없이 확산되는 것을 방지하기 위해 소셜미디어 업체들이 정보 제공 및 규칙을 시행하는 데 해야 할 중요한 역할이 있다고 본다"고 강조했다.
관련뉴스
