서울 지역 중·고교에서 벌어지는 학교폭력 가운데 ‘딥페이크’ 성착취물을 악용하는 사례가 급격히 늘어난 것으로 나타났다. 인공지능(AI)을 활용해 같은 반 친구의 얼굴을 나체사진이나 음란물 등에 합성한 뒤 이를 유포하는 것이다. 학교폭력이 구타나 갈취 등 전통적인 방식에서 벗어나 온라인으로 확산하면서 수법이 더욱 심각해지고 있다.
○‘딥페이크’ 성범죄 10년 새 3배 증가
서울경찰청은 2015년부터 2024년까지 서울 지역 청소년들의 학교폭력 유형을 분석한 결과 ‘딥페이크’ 성범죄가 10년 전 192건에서 지난해 709건으로 3배 이상 늘었다고 3일 밝혔다. 특히 2023년 422건이던 성범죄가 1년 만에 68% 증가했다.온라인 범죄 전반의 증가세도 두드러졌다. 청소년들의 휴대전화와 SNS 사용 확산과 맞물리며 온라인 범죄 발생 건수는 지난해 상반기 777건에서 올해 상반기 965건으로 24.5% 늘었다. 반면 같은 기간 전통적인 학교폭력인 신체적·물리적 폭력은 1586건에서 1284건으로 19% 줄어들었다.
경찰은 10대 청소년 사이에서 성범죄가 증가하게 된 배경으로 AI 기반 이미지 합성 기술인 딥페이크의 상용화를 꼽았다. 이들 서비스는 별도의 성인 인증 없이 누구나 접근할 수 있어 청소년 성범죄를 조장한다는 비판을 받고 있다.
딥페이크 음란물 제작 절차도 단순하다. AI 얼굴합성 불법 앱을 내려받아 영상 템플릿을 고른 뒤 합성할 얼굴 사진을 업로드하면 순식간에 딥페이크 영상물의 등장인물이 된다. 포르노 영상과 지인 사진을 합성하도록 만들어져 시중에 유통되는 앱도 있다.
○교사 피해까지 확산…불안 호소
피해는 학생을 넘어 교사까지 번지고 있다. 전국교직원노동조합(전교조)에 따르면 지난해 9월 실시한 긴급 ‘딥페이크 성범죄 실태조사’ 결과 총 2492건의 신고가 접수됐다. 중·고등학교뿐 아니라 초등학교, 유치원, 특수학교에서도 피해 사례가 보고되며 피해자는 517명에 달했다. 이 중 교사 피해자는 204명으로 이는 교권과 교육 현장을 위협하는 새로운 양상으로 번지고 있다.최근에는 학생들이 소셜미디어 계정을 비공개로 전환하거나 얼굴이 드러난 게시물을 삭제하는 사례가 늘고 있다. 이 때문에 일각에선 “누구나 딥페이크 범죄의 표적이 될 수 있다는 불안감이 청소년과 교사 모두를 위축시키고 있다”고 지적한다. 한국여성변호사회 문혜정 변호사는 “딥페이크 성범죄는 명백한 성폭력의 일환”이라며 “가해자 처벌 규정을 세분화하고, 동시에 생성형 AI 플랫폼 규제를 강화해 청소년이 범죄에 쉽게 접근하지 못하도록 해야 한다”고 강조했다.
○AI 플랫폼 규제 논의 시급
상황은 이렇지만 이를 제재할 수 있는 제도적 기반이 여전히 취약한 실정이다. 딥페이크 생성 플랫폼을 직접 처벌할 법적 근거가 부족하기 때문이다. 실제로 미국 사이버보안 업계의 2023년 보고서에 따르면 딥페이크 영상의 98%가 음란물이고 그 중 99%가 여성의 사진을 이용한 것으로 나타났다. 이 때문에 다른 유해 정보와 마찬가지로 최소한 미성년자에 한해 딥페이크 제작 툴 접근을 차단해야 한다는 목소리도 커지고 있다. 김명주 서울여대 정보보호학과 교수는 “AI 윤리에 대한 가이드라인과 자율규제가 필요하다”고 조언했다.한편 경찰은 청소년 딥페이크 범죄 확산에 대응하기 위해 예방책도 내놓고 있다. 서울경찰청은 학교별 범죄 데이터와 설문조사 결과를 토대로 범죄 예방 우선순위를 정하고, ‘맞춤형 청소년 범죄예방 시스템’을 지난 1일부터 서울 시내 1373개 학교에 도입했다. 경찰 관계자는 “단순한 ‘장난’이나 ‘호기심’ 차원의 범행에 동참하지 않도록 학생 인식 개선과 예방 교육을 강화하겠다”고 말했다.
김유진 기자 magiclamp@hankyung.com
관련뉴스
