서울시가 자체 개발한 디지털 성범죄 대응 인공지능(AI) 삭제기술을 전국으로 확산한다. 피해 영상물 탐지부터 삭제까지 걸리는 시간을 기존 대비 30배 단축한 기술을 무상 이전해 전국 어디서나 동일한 수준의 피해자 보호 체계를 구축하겠다는 구상이다.
서울시는 3일 첫 무상 기술이전 계약을 시작으로 ‘디지털 성범죄 AI 삭제지원’ 기술을 정부기관과 지방자치단체, 공공 목적 기관 등에 무상 보급한다고 2일 밝혔다. 서울시가 개발한 공공기술을 전국 단위로 개방하는 첫 사례다.
이 기술은 AI가 24시간 온라인을 실시간 모니터링하며 불법 사이트와 사회관계망서비스(SNS)에 유포된 성착취물을 자동 탐지하고 삭제를 지원하는 시스템이다. 기존에는 상담원이 육안으로 일일이 검색하고 신고해야 했지만 AI 도입 이후 처리시간은 평균 3시간에서 6분으로 줄었다. 탐지 정확도 역시 200~300% 개선된 것으로 서울시는 설명했다.
서울시는 기술 보급 시 기관당 약 1억8000만원의 예산 절감 효과가 있을 것으로 보고 있다. 현재 전국 다수 피해지원 기관이 여전히 수작업 방식에 의존하고 있어 인력 부담과 대응 지연 문제가 지속되고 있다는 판단에서다.
이 기술은 2023년 서울시와 서울연구원이 공동 개발했으며 서울 디지털성범죄 안심지원센터에서 운영 중이다. 이후 아동·청소년 대상 안면인식 기반 나이 예측 삭제기술과 AI 자동 신고 시스템을 추가 구축했고 저작권 등록과 특허 등록도 완료했다. 해당 기술은 정부혁신 우수사례 대통령상과 UN공공행정상 대상을 수상하며 국제적으로도 성과를 인정받았다.
AI 도입 이후 삭제지원 건수도 급증했다. 서울 디지털성범죄 안심지원센터의 삭제지원 건수는 2022년 2509건에서 2025년 1만5777건으로 4년 만에 6배 이상 늘었다. AI가 기존에 확인되지 않았던 신규·해외 불법 사이트까지 자동 탐색하면서 숨겨진 피해 영상물이 대량 발견된 영향이다.
특히 딥페이크 영상 탐지가 가능해진 점이 핵심 변화로 꼽힌다. 기존에는 피해자가 원본 영상을 보유해야 동일 콘텐츠를 찾을 수 있었지만 AI는 영상·음성·텍스트를 동시에 분석해 편집되거나 모자이크 처리된 변형본까지 식별한다. 동일 인물의 얼굴과 의상 등을 인식해 여러 촬영물을 묶어 탐지하는 기능도 포함됐다.
재업로드 대응 능력도 강화됐다. 가해자가 주말등 단기간 유포 후 삭제하는 방식의 범죄에도 AI가 자동 재탐지를 수행해 반복 확산을 차단할 수 있다는 설명이다.
서울시는 이번 기술 이전을 특정 지역에 한정하지 않고 공익 목적 기관 전반으로 확대할 계획이다. 해외 비영리 기관과 협력해 국제적 디지털 성범죄 대응 체계 구축도 추진한다. 기술 이전은 운영 목적과 활용 계획 심사를 거쳐 협약 및 계약 방식으로 진행된다.
오균 서울연구원장은 “연구기관이 개발한 공공기술을 사회적 가치 실현을 위해 개방하는 첫 사례”라며 “전국 피해자 보호 현장에서 실질적인 변화를 만들어낼 것”이라고 말했다. 마채숙 서울시 여성가족실장은 “피해자 보호 기술을 공공재로 확장하는 의미 있는 시도”라며 “전국 어디서나 신속한 지원이 가능해질 것으로 기대한다”고 밝혔다.
권용훈 기자 fact@hankyung.com
서울시는 3일 첫 무상 기술이전 계약을 시작으로 ‘디지털 성범죄 AI 삭제지원’ 기술을 정부기관과 지방자치단체, 공공 목적 기관 등에 무상 보급한다고 2일 밝혔다. 서울시가 개발한 공공기술을 전국 단위로 개방하는 첫 사례다.
이 기술은 AI가 24시간 온라인을 실시간 모니터링하며 불법 사이트와 사회관계망서비스(SNS)에 유포된 성착취물을 자동 탐지하고 삭제를 지원하는 시스템이다. 기존에는 상담원이 육안으로 일일이 검색하고 신고해야 했지만 AI 도입 이후 처리시간은 평균 3시간에서 6분으로 줄었다. 탐지 정확도 역시 200~300% 개선된 것으로 서울시는 설명했다.
서울시는 기술 보급 시 기관당 약 1억8000만원의 예산 절감 효과가 있을 것으로 보고 있다. 현재 전국 다수 피해지원 기관이 여전히 수작업 방식에 의존하고 있어 인력 부담과 대응 지연 문제가 지속되고 있다는 판단에서다.
이 기술은 2023년 서울시와 서울연구원이 공동 개발했으며 서울 디지털성범죄 안심지원센터에서 운영 중이다. 이후 아동·청소년 대상 안면인식 기반 나이 예측 삭제기술과 AI 자동 신고 시스템을 추가 구축했고 저작권 등록과 특허 등록도 완료했다. 해당 기술은 정부혁신 우수사례 대통령상과 UN공공행정상 대상을 수상하며 국제적으로도 성과를 인정받았다.
AI 도입 이후 삭제지원 건수도 급증했다. 서울 디지털성범죄 안심지원센터의 삭제지원 건수는 2022년 2509건에서 2025년 1만5777건으로 4년 만에 6배 이상 늘었다. AI가 기존에 확인되지 않았던 신규·해외 불법 사이트까지 자동 탐색하면서 숨겨진 피해 영상물이 대량 발견된 영향이다.
특히 딥페이크 영상 탐지가 가능해진 점이 핵심 변화로 꼽힌다. 기존에는 피해자가 원본 영상을 보유해야 동일 콘텐츠를 찾을 수 있었지만 AI는 영상·음성·텍스트를 동시에 분석해 편집되거나 모자이크 처리된 변형본까지 식별한다. 동일 인물의 얼굴과 의상 등을 인식해 여러 촬영물을 묶어 탐지하는 기능도 포함됐다.
재업로드 대응 능력도 강화됐다. 가해자가 주말등 단기간 유포 후 삭제하는 방식의 범죄에도 AI가 자동 재탐지를 수행해 반복 확산을 차단할 수 있다는 설명이다.
서울시는 이번 기술 이전을 특정 지역에 한정하지 않고 공익 목적 기관 전반으로 확대할 계획이다. 해외 비영리 기관과 협력해 국제적 디지털 성범죄 대응 체계 구축도 추진한다. 기술 이전은 운영 목적과 활용 계획 심사를 거쳐 협약 및 계약 방식으로 진행된다.
오균 서울연구원장은 “연구기관이 개발한 공공기술을 사회적 가치 실현을 위해 개방하는 첫 사례”라며 “전국 피해자 보호 현장에서 실질적인 변화를 만들어낼 것”이라고 말했다. 마채숙 서울시 여성가족실장은 “피해자 보호 기술을 공공재로 확장하는 의미 있는 시도”라며 “전국 어디서나 신속한 지원이 가능해질 것으로 기대한다”고 밝혔다.
권용훈 기자 fact@hankyung.com
관련뉴스
