국내 대학·연구기관 논문 잇단 철회…KCI 등재 학술지도 적발
해외 연구서 허위 참고문헌 비율 급증…학술 신뢰성 우려

(서울=연합뉴스) 조승한 기자 = 인공지능(AI)이 만들어낸 가짜 참고문헌이나 잘못된 인용이 학술 논문에 포함되면서 국내외 대학과 연구기관의 논문 철회가 잇따르고 있다.
국내 대학과 정부출연연구기관은 물론 해외 유명 학술지와 국내 한국학술지인용색인(KCI) 등재 학술지에서도 허위 인용 사례가 확인됐다.
최근 해외 연구에서는 허위 참고문헌이 포함된 논문의 비율이 크게 높아진 것으로 나타나면서 AI의 '환각' 현상이 과학 연구의 신뢰성을 위협하는 문제로 떠오르고 있다.
◇ 국내 대학·연구기관 논문 잇단 철회…AI 가짜 인용 논란 확산
17일 과학기술계에 따르면 강원대와 세종대 연구진이 지난해 12월 국제학술지 '사이언티픽 리포트'에 게재한 가짜뉴스 탐지 관련 논문이 올해 철회됐다.
학술지는 철회 사유로 논문 전반에 비표준적 어휘가 사용됐고, 관련성이 떨어지거나 잘못 인용된 참고 문헌이 다수 발견됐다고 지적했다.
어휘가 부정확하다거나 인용 논문이 부정확한 것은 AI로 작성한 논문의 대표적 특징이다.
저자들은 학술지에서 철회 관련해 보낸 서신에 명확한 입장을 밝히지 않았다.
한양대 에리카캠퍼스와 극지연구소 등 공동연구진이 국제학술지 '헬리온'에 낸 금강과 섬진강 내 유기 탄소 관련 논문도 논문 내용과 관련 없는 참고문헌들이 발견돼 지난해 11월 철회됐다.
한국과학기술정보연구원(KISTI) 연구진도 최근 국제학술지 '기술 예측과 사회 변화'에 생명공학 전문가 페르소나를 가진 AI 생성형 에이전트 관련 논문을 발표했다 11개 인용 논문이 환각으로 생성된 것을 확인하고 자진 철회했다.
AI 석학인 조경현 뉴욕대 교수도 지난해 말 세계 최고 권위 AI 학회인 뉴립스(NeurIPS)에 채택된 공저 논문이 AI가 생성한 가짜 참고문헌을 인용한 것으로 확인돼 공개 사과하기도 했다.
논문철회 감시 사이트 리트랙션워치의 데이터베이스에 따르면 2023년 이후 AI 생성 콘텐츠 사유로 철회된 국내 기관 소속 저자 논문은 205건, 참고문헌이나 출처 문제로 철회된 논문은 316건에 달한다.
◇ 해외 논문서도 허위 참고문헌 급증…국내 KCI까지 확산
AI가 생성한 부정확한 문장이나 정보가 논문에 포함되는 문제는 전 세계적으로 빠르게 확산하고 있다.
미국 컬럼비아대 연구진이 올해 5월 국제학술지 '랜싯'에 발표한 연구에 따르면 올해 첫 7주간 의학·생명과학 분야 논문 데이터베이스 '펍메드'(Pubmed)에 발표된 논문에서 277편당 1편꼴로 허위 참고문헌이 발견됐다.
2023년 2천828편당 1편꼴이었던 것과 비교하면 허위 참고문헌이 포함된 논문의 비율이 크게 높아진 것이다.
또 미국 컬럼비아대 연구진이 11월 3일 국제학술지 '미국국립과학원회보'(PNAS)에 발표한 과학·공학·컴퓨터 분야 논문 50만편의 참고문헌 2천160만건을 분석한 결과에서는 허위 참고문헌 포함 비율이 2023년 1천600편당 1편에서 2026년 1분기 435편당 1편으로 높아진 사실이 확인됐다.
국내 학술지에서도 문제가 확인됐다.
이주희 더불어민주당 의원실에 따르면 국가 연구개발(R&D) 과제로 수행돼 지난해 한국학술지인용색인(KCI) 등재 학술지에 실린 중국 우주산업 생태계 논문이 참고문헌 40여개 중 17개에 오류가 발견돼 논문이 철회됐다.
중국 정부의 눈 건강 정책 문서 등이 참고문헌으로 등록된 것으로, 연구자는 3년 학술지 논문 게재 제한 제재를 받았다.
한국연구재단에 따르면 연구재단 지원을 받은 KCI 논문 중 AI를 활용한 연구부정행위로 처음 발견된 사례다.
한국과학학술지편집인협의회도 최근 3년간 진행한 AI 관련 교육과 학술대회에서 생성형 AI의 환각으로 인한 허위 정보와 부정확한 데이터 생성이 주요 문제로 최근 발표되고 있다고 지적했다.
shjo@yna.co.kr
(끝)
<저작권자(c) 연합뉴스, 무단 전재-재배포, AI 학습 및 활용 금지>
관련뉴스






