[AI픽] 메타, AI로 디지털 성범죄 차단 강화 선언

[AI픽] 메타, AI로 디지털 성범죄 차단 강화 선언
14세 미만 이용 제한·청소년 시간 관리 도입


(서울=연합뉴스) 김주환 기자 = 페이스북·인스타그램을 운영하는 메타가 인공지능(AI) 기술을 청소년과 여성을 노린 디지털 성범죄 방지에 적극적으로 활용하겠다고 밝혔다.
프리앙카 발라 메타 아시아태평양 지역 안전 정책 총괄은 3일 서울 강남구 메타코리아 사무실에서 열린 '청소년 및 여성 온라인 안전 라운드테이블'에서 이같이 말했다.
발라 총괄은 "인스타그램이나 페이스북을 이용하는 14∼17세의 10대들이 적절한 연령에 맞는 콘텐츠만 이용할 수 있게끔 보호조치를 적용하고 있다"며 "이 과정에서 괴롭힘, 따돌림, 혐오 표현, 성 착취물, 성적 동영상 등을 자동으로 감지해 차단하고 있다"고 설명했다.
또 "AI를 활용해 사용자가 입력한 나이와 실제 나이가 맞는지 진위를 파악하고, 14세 미만이 이용을 시도할 경우 계정을 삭제한다"며 "14∼15세의 경우 인스타그램 계정이 모두 비공개로 설정돼 모르는 사람으로부터 DM(직접 메시지)이나 연락을 받을 수 없고 스크린 타임도 60분도 제한된다"고 강조했다.
다른 사람과 이미지를 주고받는 단계에서도 안전조치가 도입됐다.
발라 총괄은 "기기로 성적 이미지를 보내게 되면 전송 전 '정말 이 사진을 보내겠습니까' 하는 경고 메시지가 뜨고, 원치 않는 성적 이미지가 오게 되면 자동으로 흐리게 처리된다"고 설명했다.
이어진 패널 토론에서는 소셜미디어상에서 일어나는 디지털 성범죄 실태와 대응 방안이 논의됐다.
국내 1호 프로파일러로 잘 알려진 권일용 동국대 경찰행정학과 교수는 "딥페이크나 불법 촬영물 방지에는 수사기관의 적극적인 대응뿐 아니라 관련 업계의 책임감 있는 서비스 운영이 필요하다"고 강조했다.
권 교수는 "디지털상 친분을 가장해 접근한 이후 텔레그램 대화방으로 유도해 개인정보를 탈취하는 사례도 늘고 있어 주의해야 한다"라고도 덧붙였다.
이지연 한국외대 교육대학원 교수는 "디지털 성범죄는 피해자뿐 아니라 평범한 여성들에게도 일상생활에 불안감을 주고, 온라인 활동도 위축시킨다"며 "피해자가 즉시 주변에 도움을 구할 수 있는 사회적 분위기를 조성하는 것이 필요하다"고 제언했다.
jujuk@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>