메타가 경쟁사 인공지능(AI) 모델에 비인륜적 질문을 반복적으로 던지며 답변을 유도한 사실이 알려져 논란이 일고 있다.
13일(현지시간) 미국 테크 매체 와이어드에 따르면 메타는 지난 4월까지 미성년자 가짜 계정을 개설해 오픈AI 챗GPT, 구글 제미나이, 캐릭터.ai 등에 성·마약·섭식장애에 관해 질문한 뒤 답변을 기록했다. 지난해 8월 완료된 한 차례 테스트에서만 4만5000개 이상을 질문했다. 계약직 직원 수백 명이 이 프로젝트에 동원됐다. 메타는 테스트 여부를 대상 기업에 고지하지 않았다.
이 같은 사실이 알려지자 오픈AI는 “이 문제를 조사 중”이라고 했고 구글은 “3자 테스트를 승인한 적이 없고 목적도 모른다”고 밝혔다. 캐릭터.ai는 “회사의 이용 약관과 정책을 위반한다”며 반발했다.
AI업계에서 경쟁사 모델에 질문해 답변을 이끌어낸 게 처음은 아니다. 구글은 2023년 자사 AI 모델 바드의 답변 품질을 높이기 위해 챗GPT에 수천 개의 질문을 하고 답변을 이용했다. 비윤리적 질문을 한 메타와는 차이가 크다.
메타가 윤리적 문제로 답변이 거부될 게 뻔한 질문을 쏟아낸 이유는 알려지지 않았다. 메타는 성명을 통해 “안전하고 연령에 적합한 경험을 보장하기 위해 챗봇 응답을 테스트하고 벤치마킹하는 것은 책임감 있는 업계 표준 관행”이라고만 밝혔다.
실리콘밸리=김인엽 특파원 inside@hankyung.com
관련뉴스
