AI 전문가들의 성지 NeurIPS에서 발견된 '가짜 인용문': NeurIPS AI 논문 환각 실태

AI 업계의 가장 권위 있는 성지조차 AI가 만든 '가짜'로부터 자유롭지 못했다. 세계 최고의 AI 연구자들이 모이는 신경정보처리시스템학회(NeurIPS)에서 발표된 논문들 중 일부가 존재하지 않는 논문을 인용한 것으로 드러났다.

GPTZero가 발견한 NeurIPS AI 논문 환각과 데이터의 실체

AI 탐지 스타트업 GPTZero는 지난달 샌디에이고에서 개최된 NeurIPS에 통과된 논문 4,841개 전체를 전수 조사했다. 로이터와 테크크런치 보도에 따르면, 이 과정에서 51개의 논문에서 총 100건의 가짜 인용문, 즉 AI 환각(Hallucination) 현상이 확인되었다.

수만 개의 전체 인용문 중 100건이라는 숫자는 통계적으로 0%에 가까우며, 전체 논문의 약 1.1%만이 영향을 받은 수준이다. 학회 측은 가짜 인용문이 포함되었다고 해서 해당 논문의 핵심 연구 내용이나 가치가 훼손되는 것은 아니라고 강조했다. 하지만 AI를 가장 잘 안다는 전문가들이 단순한 참고문헌 정리 작업에 대규모 언어 모델(LLM)을 사용하다가 오류를 잡아내지 못했다는 점은 가볍게 넘길 사안이 아니다.

투고 쓰나미와 무너지는 피어 리뷰 시스템

이번 사태의 근본적인 원인으로는 감당하기 힘들 정도로 쏟아지는 논문 투고량이 지목된다. GPTZero는 이를 '투고 쓰나미'라고 표현하며, 기존의 동료 검토(Peer Review) 시스템이 한계점에 도달했다고 분석했다. 논문 인용 횟수는 연구자의 경력을 증명하는 화폐와 같기에, AI가 만들어낸 가짜 인용은 학문적 생태계의 가치를 희석할 위험이 있다.