AI가 만든 가짜 인용문'이 뉴스에 실렸다

기술 전문 매체 아스 테크니카가 충격적인 고백을 했다. 금요일 오후 발행한 기사에 AI 도구가 만들어낸 허위 인용문을 실제 취재원의 발언인 것처럼 게재했다는 것이다. "직접 인용문은 반드시 취재원이 실제로 한 말을 반영해야 한다"며 자사의 기준을 심각하게 위반했다고 인정했다.

기술 매체조차 넘어선 함정

특히 이번 사건이 충격적인 이유는 아스 테크니카가 수년간 AI 도구 남용의 위험성을 다뤄온 매체라는 점이다. 자체 정책에서도 이런 우려를 반영해왔지만, 정작 내부에서 그 정책이 제대로 지켜지지 않았다.

매체 측은 "AI 생성 콘텐츠는 명확히 표시하고 시연 목적으로만 사용해야 한다는 규칙이 있었지만 지켜지지 않았다"며 "이 규칙은 선택사항이 아니었다"고 강조했다. 최근 작업물들을 재검토한 결과 추가 문제는 발견되지 않았으며, 현재로서는 단발적 사건으로 보인다고 밝혔다.

언론계의 AI 딜레마가 현실이 되다

이 사건은 언론계가 직면한 근본적 딜레마를 보여준다. AI 도구는 분명 기자들의 업무 효율성을 높일 수 있다. 초안 작성, 자료 정리, 번역 등에서 도움을 받을 수 있다. 하지만 정확성과 신뢰성이라는 언론의 핵심 가치와 충돌할 위험이 크다.

국내 언론사들도 예외는 아니다. 이미 여러 매체에서 AI를 활용한 기사 작성을 실험하고 있지만, 대부분 스포츠 경기 결과나 날씨 같은 정형화된 정보에 국한하고 있다. 하지만 인터뷰나 분석 기사까지 AI가 개입한다면?

독자는 어떻게 구별할 수 있을까

더 큰 문제는 독자 입장에서 어떤 기사가 AI의 도움을 받았는지 알기 어렵다는 점이다. 아스 테크니카 같은 신뢰받는 매체에서도 이런 일이 벌어진다면, 다른 매체들은 어떨까? 특히 빠른 속보 경쟁 속에서 검증 절차를 건너뛸 유혹은 더 클 것이다.

국내에서도 'AI 기자' 도입을 검토하는 언론사들이 늘고 있다. 하지만 명확한 가이드라인 없이는 비슷한 사고가 반복될 수 있다. 무엇보다 독자들이 "이 기사는 믿을 수 있나?"라는 의구심을 갖게 된다면, 언론 전체의 신뢰도가 흔들릴 수 있다.