구글의 인공지능(AI) 요약 서비스 'AI 오버뷰'가 잘못된 건강 정보를 제시해 이용자에게 잠재적 위험을 초래할 수 있다는 지적이 나왔다.
영국 일간 가디언은 2일(현지시간) 자체 조사 결과 구글의 'AI 오버뷰'가 건강 관련 검색에서 부정확한 정보를 제공한 사례가 다수 발견됐다고 보도했다.
AI 오버뷰는 사용자 질문에 대한 요약된 핵심 답변을 제시하는 기능으로, 구글은 그동안 "정확하고 유용한 정보 제공을 목표로 한다"고 강조해왔다. 그러나 가디언은 이 기능이 오히려 잘못된 의료 조언을 전달해 건강을 해칠 우려가 있다고 지적했다.
보도에 따르면 AI 오버뷰는 췌장암 환자에게 "고지방 음식을 피하라"고 조언했는데, 전문가들은 이 내용이 사실과 정반대라고 경고했다.
췌장암 자선단체 '췌장암 영국'의 안나 주얼 연구·지원 담당자는 "이 지침을 따르면 열량 섭취가 부족해져 항암치료나 수술을 견디기 어렵다"고 설명했다.
'간 혈액 검사의 정상 범위'를 검색할 때도 비슷한 문제가 나타났다. 간 질환자들이 잘못된 수치 정보를 보고 자신이 건강하다고 오해할 수 있다는 것이다.
영국 간 신탁의 파멜라 힐리 대표는 "심각한 간 질환을 가진 이들이 추가 진료를 포기할 수 있다"며 우려했다.
건강 전문단체 '환자정보포럼'의 소피 랜들 이사는 "AI 오버뷰가 부정확한 정보를 검색 최상단에 노출하면서 사람들의 건강에 실제적 위험을 줄 수 있다"고 강조했다.
이에 대해 구글 측은 "AI 오버뷰가 제공하는 대부분의 정보는 정확하고, 지속적으로 품질을 개선하고 있다"며 "제시된 사례 상당수가 불완전한 스크린샷에 근거한 오해"라고 반박했다.
또 "AI 오버뷰는 신뢰할 수 있는 출처로 연결해 전문가 조언을 구하도록 권고하고 있다"고 덧붙였다.
(사진=연합뉴스)
한국경제TV 디지털뉴스부 이휘경 기자
ddehg@wowtv.co.kr관련뉴스
