챗GPT 등 생성형 인공지능(AI)을 활용해 제작한 이미지와 네 컷 만화로 불법 성매매를 조장·미화하는 콘텐츠가 최근 인스타그램에서 확산하고 있다.
AI의 악용 위험성과 부작용에 대한 우려의 목소리가 커지는 가운데 불법 성매매 콘텐츠까지 소셜미디어(SNS)를 점령하고 있어 단속과 규제가 필요하다는 지적이 나온다.
10일 연합뉴스에 따르면 인스타그램에선 유흥업소 여성들의 일상을 AI로 그려낸 이미지나 만화로 전달하고 있는 여러 계정을 쉽게 찾아볼 수 있다. 주로 불법 성매매 과정에서 일어나는 여러 에피소드를 챗GPT로 그린 것들이다.
이들 계정의 프로필에는 '언니들의 실화를 바탕으로 올립니다', '음지의 모든 공감을 담았어요. 100% 아가씨 리얼 스토리', 'AI로 그린 감동 실화 경험담을 기반으로 올립니다' 등의 소개 글이 있다.
대부분 지난달 말에서 이달 초에 개설된 신규 계정들인데 벌써 팔로워 수가 적게는 1천명대, 많게는 7천명대에 이른다.
각 계정은 하루에 1개 또는 2개 정도의 게시물을 꾸준히 업로드하고 있으며, 팔로워 수는 빠르게 증가하고 있다.
'AI로 그린 감동 실화 경험담을 기반으로 올린다'고 홍보하는 한 계정에선 업소를 방문한 남성의 파우치 안에서 마약으로 추정되는 하얀 가루가 나온 장면, 일명 '나비약'이라 불리는 마약 펜터민이 포함된 향정신성 식욕억제제를 먹는 모습 등이 나오기도 했다.
누리꾼들은 "불법 성매매가 하나의 콘텐츠로 소비되고 있었다는 게 정말 충격적"이라거나 "인스타그램은 청소년들도 많이 하는 SNS인데 악영향을 끼칠 것 같다" 등 불편함을 호소하고 있다.
하지만 인스타그램을 운영하는 메타 측은 "해당 계정들이 생겨나고 있다는 걸 아직 인지하진 못했다"며 "인스타그램 계정들과 게시물들은 커뮤니티 규정에 따라 위반 여부 확인 후 조치를 취하고 있다"고 밝혔다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 김현경 기자
khkkim@wowtv.co.kr관련뉴스
