온라인 쇼핑을 할 때 상품 사진만큼이나 꼼꼼하게 살펴보는 게 구매 후기다. 별점 5개가 줄줄이 달리고 ‘배송도 빠르고 품질도 만족스럽다’는 후기가 이어지면 구매 버튼에 손이 간다. 반대로 별점이 낮거나 부정적인 평가가 많으면 다른 상품을 찾아보게 된다.
그런데 이제는 이런 후기조차 온전히 믿기 어려워졌다. 생성형 인공지능(AI)이 상품의 특징 몇 가지만 입력하면 그럴듯한 구매 후기를 순식간에 만들어내기 때문이다. 소비자의 구매 판단을 돕던 리뷰가 오히려 소비자를 속이는 도구로 바뀔 수 있다는 우려가 나온다.
○ AI로 가짜 리뷰 대량 생산
온라인 리뷰 조작은 생성형 AI가 등장하기 전부터 존재했다. 다만 AI가 가짜 리뷰 제작에 드는 시간과 비용을 낮추면서 문제의 양상이 달라지고 있다. 과거에는 여러 사람을 동원하거나 문구를 일일이 작성해야 했다면 이제는 몇 가지 조건만 입력해도 다양한 표현의 후기를 만들어낼 수 있다. 문장과 표현을 조금씩 바꾸면 비슷한 내용의 리뷰를 대량으로 생산하는 것도 어렵지 않다.국내에서도 리뷰 조작으로 처벌받은 사례가 있다. 배달의민족 운영사 우아한형제들이 2023년 공개한 리뷰 조작 사건이 대표적이다. 당시 한 리뷰 조작 업체는 음식점 업주에게 건당 5000원을 받고 허위 리뷰 9985건을 작성했다. 실제로는 존재하지 않는 가족과 음식 경험까지 꾸며내 별점 5점짜리 후기를 올렸다. 법원은 리뷰 조작 업체 관계자들에게 벌금형과 징역형 등을 선고했다. 요기요, 쿠팡이츠 등 다른 배달앱에도 이런 가짜 후기는 흔하다.
생성형 AI는 이런 리뷰 조작을 더욱 손쉽게 만드는 수단이 될 수 있다. 미국에서도 AI로 만든 허위 후기가 규제 대상으로 떠올랐다. 미국 연방거래위원회(FTC)는 2024년 10월 가짜 소비자 리뷰와 추천사의 판매·구매를 금지하는 규정을 시행했다. 존재하지 않는 사람이 작성한 후기뿐 아니라 제품이나 서비스를 경험하지 않은 사람이 실제 이용자인 것처럼 꾸민 AI 생성 리뷰도 규제 대상에 포함했다. 긍정적인 평가를 조건으로 보상을 제공하는 행위와 기업 내부 관계자가 이해관계를 밝히지 않고 작성한 후기 등도 금지했다.
AI를 활용한 리뷰 생성 서비스 자체가 논란이 된 사례도 있다. FTC는 AI 글쓰기 서비스 업체 ‘라이티어’가 이용자에게 허위 리뷰를 생성할 수 있는 서비스를 제공했다며 2024년 제재 절차를 진행했다. FTC는 해당 서비스가 이용자의 입력과 무관한 구체적인 경험을 담은 후기를 만들어 소비자를 오인하게 할 수 있다고 지적했다. 이 서비스 이용자들이 수백 건에서 많게는 수만 건의 리뷰를 만들었을 가능성도 제기했다.
다만 AI가 작성한 리뷰를 모두 가짜로 볼 수는 없다. 실제로 제품을 구매하고 사용한 소비자가 자신의 경험을 정리하기 위해 AI의 도움을 받는 경우도 있기 때문이다. 표현이 매끄럽지 않거나 맞춤법이 틀린 리뷰가 반드시 진짜라는 보장도 없다. 반대로 문장이 지나치게 정돈됐다는 이유만으로 허위 리뷰라고 단정할 수도 없다. AI를 이용해 실제 경험을 정리한 후기와 경험 자체를 꾸며낸 허위 후기를 구별해야 하는 이유다.
○ 배민·아마존 “가짜 리뷰 막겠다”
플랫폼들도 리뷰 신뢰도를 지키기 위한 대응에 나서고 있다. 배달의민족은 2021년 말부터 AI를 활용한 허위 리뷰 모니터링 체계를 운영해왔다. 리뷰 작성자와 음식점의 관계, 리뷰 작성 패턴 등 여러 정보를 분석해 조작이 의심되는 활동을 찾아내는 방식이다. 생성형 AI가 등장하기 전부터 리뷰 조작을 막기 위한 기술 경쟁이 이어져온 셈이다.글로벌 플랫폼들도 AI를 무조건 배제하기보다는 실제 경험을 바탕으로 한 후기인지에 초점을 맞추고 있다. 아마존과 트러스트파일럿 등은 실제 경험을 반영한 AI 보조 작성과 허위 리뷰를 구분하는 접근을 취하고 있다. 리뷰 작성에 AI를 활용했다는 사실만으로 소비자에게 유용한 정보까지 차단할 수는 없다는 판단에서다.
국내 규제 논의도 본격화하고 있다. 공정거래위원회는 지난달 22일 ‘AI 관련 표시·광고 가이드라인’ 초안에 대한 의견 수렴에 들어갔다. AI를 활용한 허위·과장 광고와 가상 인물·후기 등을 통해 소비자를 오인하게 하는 행위가 주요 검토 대상이다. 의견 제출 기한은 오는 11일까지다.
리뷰를 둘러싼 기술 경쟁은 더욱 치열해질 전망이다. 플랫폼은 리뷰 작성 간격, 특정 상품에 집중된 평가, 유사한 문구의 반복 등을 분석해 의심스러운 활동을 가려내야 하는 과제를 안고 있다. 플랫폼 업계 관계자는 “단순히 문장만 분석해서는 정교해진 리뷰 조작을 막기 어려워 고민이 많다”고 말했다.
정지은 기자 jeong@hankyung.com
관련뉴스
