딜로이트, AI 작성 보고서 '오류투성이'…호주정부에 환불

딜로이트, AI 작성 보고서 '오류투성이'…호주정부에 환불
AI 환각 현상, 연구보고서·판결문 등 지어내…수정본서 삭제



(하노이=연합뉴스) 박진형 특파원 = 세계적 회계·컨설팅 그룹 딜로이트가 호주 정부로부터 의뢰받은 보고서를 작성하면서 오픈AI의 인공지능(AI)이 지어낸 가짜 판결문 등 오류가 포함된 보고서를 제출했다가 실수를 인정했다.
7일(현지시간) 영국 파이낸셜타임스(FT)·가디언과 정보기술(IT) 매체 아르스테크니카 등에 따르면 전날 호주 고용노동부는 딜로이트가 정부에 제출한 보고서의 일부 인용·참고문헌 오류를 인정하고 보고서 작성 용역비를 일부 돌려주기로 했다고 밝혔다.
고용노동부는 지난해 12월 구직자에게 불이익을 주는 복지 시스템의 문제점 평가 보고서를 43만9천 호주달러(약 4억1천만원)에 딜로이트에 발주했다.
하지만 지난 7월 딜로이트가 작성한 보고서가 공개되자 오류가 적지 않게 있다는 지적이 학계와 현지 매체 등으로부터 나왔다.
보고서가 호주 시드니대와 스웨덴 룬드대 교수들 명의로 돼 있지만 실제로는 존재하지 않는 허위 보고서들을 각주·참고문헌으로 제시하는가 하면 호주 법원 판결문도 조작해서 인용했다는 것이다.
이에 딜로이트는 참고문헌으로 제시한 출처 141개 중 문제가 발견된 14개와 본문의 조작된 인용문 등을 삭제한 보고서 수정본을 최근 제출했다.
특히 수정본에서 보고서에 오픈AI의 대규모언어모델(LLM) GPT-4o 기반 도구를 사용한 내용이 일부 포함됐다고 인정했다.
딜로이트는 수정본에서 오류를 수정했다면서도 "이번 (보고서)업데이트는 보고서의 실질적 내용, 결과, 권고 사항에 어떤 영향도 미치지 않는다"고 주장했다.
호주 딜로이트 측은 "이 문제는 고객과 직접 (소통해) 해결됐다"고 덧붙였다.
호주 정부도 보고서 내용과 권고 사항은 바뀌지 않았고 용역비 환불 규모 등은 거래가 완료되면 공개될 것이라고 설명했다.
FT는 이번 사건이 AI 기술 사용에 따른 환각(AI가 실제로 존재하지 않는 허구의 정보나 콘텐츠를 생성하는 현상)의 위험을 여실히 보여준다고 설명했다.
보고서 오류를 지적했던 크리스토퍼 러지 시드니대 로스쿨 교수는 "보고서의 기반 자체가 결함이 있고, 원래 공개되지 않았으며, 비전문적인 방법론이어서 권고안을 신뢰할 수 없다"고 현지 매체에 밝혔다.
컨설팅 회사들의 청렴성에 대한 의회 조사를 담당한 바 있는 데버라 오닐 호주 상원의원도 가디언에 "이런 회사들과 계약을 하려는 사람은 자신이 비용을 지불하는 업무를 누가 수행하는지, 그리고 그 전문성과 AI 사용에 대한 검증을 받았는지 정확히 확인해야 한다"면서 "대형 컨설팅회사 대신 챗GPT를 구독하는 게 더 나을 수도 있다"고 꼬집었다.
앞서 지난 6월 영국 회계 규제 기관은 딜로이트 등 '빅4' 글로벌 회계법인들이 AI 기술에 투자하고 있지만, AI와 자동화 도구가 감사 품질에 미치는 영향을 제대로 파악하지 못하고 있다고 경고했다고 FT는 전했다.
한편, 딜로이트는 전날 오픈AI의 대항마로 꼽히는 AI 기업 앤스로픽과 계약해 AI '클로드'를 약 50만 명의 전 세계 임직원들에게 제공한다고 밝혔다.
이에 대해 IT 매체 테크크런치는 딜로이트가 AI 활용 확대를 홍보한 바로 당일 호주 정부 보고서 오류와 관련해 환불하겠다는 발표가 나왔다면서 "이 발표의 시점은 흥미롭고 심지어 우스꽝스럽기까지 하다"고 지적했다.
jhpark@yna.co.kr
(끝)


<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>