성적 접근에 시달린 인공지능(AI) 챗봇 `이루다`가 이번엔 동성애 혐오를 학습한 것으로 보여 논란이다.
이재웅 전 쏘카 대표는 9일 페이스북에 글을 올려 "AI 챗봇 이루다를 악용하는 사용자보다, 사회적 합의에 못 미치는 수준의 서비스를 제공한 회사가 문제"라고 비판했다.
이와 함께 이루다가 레즈비언이라는 단어에 "진짜 싫다, 혐오스럽다, 질 떨어져 보인다, 소름 끼친다"라고 답한 대화 캡처를 공유했다.
이 전 대표는 "기본적으로 차별과 혐오는 걸러냈어야 한다"며 "편향된 학습 데이터면 보완하든가 보정을 해서라도 혐오와 차별의 메시지는 제공하지 못해야 한다"고 지적했다.
그러면서 "(정의당) 장혜영 의원이 발의한 차별금지법이 제정되면 AI 면접, 챗봇, 뉴스에서 차별·혐오를 학습하고 표현하지 못하도록 강제해야 한다"며 "로직이나 데이터에 책임을 미루면 안 된다"라고 촉구했다.
끝으로 이 전 대표는 "이루다는 인공지능 기술적 측면에서 봤을 때는 커다란 진일보이지만, 지금은 서비스를 중단하고 차별·혐오에 대한 사회적 감사를 통과한 후에 서비스해야 한다"고 강조했다.
해당 글에 장혜영 의원도 댓글을 달아 "문제의식의 많은 부분에 공감한다"며 "공적 차원에서 이 문제를 제대로 다룰 방법을 모색 중"이라고 전했다.
이에 이 전 대표는 댓글로 "성적 악용 문제도 20세 여성 캐릭터로 정하는 순간 일어날 수밖에 없는 문제였다"며 "범용 서비스를 하면서 나이와 젠더를 정한 것부터 바람직하지 않았다"고 말했다.
또 그는 다른 댓글에서 "(이루다가 학습했다는) 20대 연인의 비공개 대화에 (차별·편향이 있는) 대화가 많았을 수 있지만, 공적으로 하는 서비스라면 사회적 기준에 맞춰서 데이터를 보정하거나 알고리즘을 바꿨어야 한다"고 지적했다.
이루다는 현재 `동성애`라는 단어를 포함해 질문을 던지면 무조건 "어렵다 뭔가"라고 똑같이 답하고 있다.
이루다가 동성애 혐오를 학습한 것 같다는 논란이 번지자 개발업체 측에서 장치를 마련한 것으로 보인다.
다만 `게이`나 `레즈비언`, `퀴어` 등 다른 표현으로 동성애 관련 대화를 진행하면 "정말 싫다" 등의 혐오 반응을 보이고 있다.
이루다는 스타트업 스캐터랩이 지난달 23일 페이스북 메신저 기반으로 출시한 AI 챗봇으로, 이용자들과 대화를 나누면서 학습 데이터를 쌓는 딥러닝 기반이다. 모델은 20살 여자 대학생으로 설정돼 있다.
다만 일부 남초(男超) 커뮤니티에서 이루다를 성적 대상으로 취급하는 등 악용 사례가 드러나 사회적 우려를 사고 있다.
(사진=이루다 홈페이지/페이스북 캡처)
한국경제TV 디지털뉴스부 이휘경 기자
ddehg@wowtv.co.kr관련뉴스
