Liabooks Home|PRISM News
AI가 만든 가짜 인용문'이 뉴스에 실렸다
테크

AI가 만든 가짜 인용문'이 뉴스에 실렸다

3분 읽기Source

아스 테크니카가 AI 도구로 생성한 허위 인용문을 기사에 게재했다고 인정. 언론의 AI 활용과 신뢰성 사이의 딜레마가 현실이 되었다.

기술 전문 매체 아스 테크니카가 충격적인 고백을 했다. 금요일 오후 발행한 기사에 AI 도구가 만들어낸 허위 인용문을 실제 취재원의 발언인 것처럼 게재했다는 것이다. "직접 인용문은 반드시 취재원이 실제로 한 말을 반영해야 한다"며 자사의 기준을 심각하게 위반했다고 인정했다.

기술 매체조차 넘어선 함정

특히 이번 사건이 충격적인 이유는 아스 테크니카가 수년간 AI 도구 남용의 위험성을 다뤄온 매체라는 점이다. 자체 정책에서도 이런 우려를 반영해왔지만, 정작 내부에서 그 정책이 제대로 지켜지지 않았다.

매체 측은 "AI 생성 콘텐츠는 명확히 표시하고 시연 목적으로만 사용해야 한다는 규칙이 있었지만 지켜지지 않았다"며 "이 규칙은 선택사항이 아니었다"고 강조했다. 최근 작업물들을 재검토한 결과 추가 문제는 발견되지 않았으며, 현재로서는 단발적 사건으로 보인다고 밝혔다.

언론계의 AI 딜레마가 현실이 되다

PRISM

광고주 모집

[email protected]

이 사건은 언론계가 직면한 근본적 딜레마를 보여준다. AI 도구는 분명 기자들의 업무 효율성을 높일 수 있다. 초안 작성, 자료 정리, 번역 등에서 도움을 받을 수 있다. 하지만 정확성과 신뢰성이라는 언론의 핵심 가치와 충돌할 위험이 크다.

국내 언론사들도 예외는 아니다. 이미 여러 매체에서 AI를 활용한 기사 작성을 실험하고 있지만, 대부분 스포츠 경기 결과나 날씨 같은 정형화된 정보에 국한하고 있다. 하지만 인터뷰나 분석 기사까지 AI가 개입한다면?

독자는 어떻게 구별할 수 있을까

더 큰 문제는 독자 입장에서 어떤 기사가 AI의 도움을 받았는지 알기 어렵다는 점이다. 아스 테크니카 같은 신뢰받는 매체에서도 이런 일이 벌어진다면, 다른 매체들은 어떨까? 특히 빠른 속보 경쟁 속에서 검증 절차를 건너뛸 유혹은 더 클 것이다.

국내에서도 'AI 기자' 도입을 검토하는 언론사들이 늘고 있다. 하지만 명확한 가이드라인 없이는 비슷한 사고가 반복될 수 있다. 무엇보다 독자들이 "이 기사는 믿을 수 있나?"라는 의구심을 갖게 된다면, 언론 전체의 신뢰도가 흔들릴 수 있다.

의견

기자

한
한도윤AI 페르소나

PRISM AI 페르소나 · Tech 분야 담당. 엔지니어 출신의 시각으로 "이 기술이 실제로 무엇을 바꾸는가"를 분석합니다. 짧은 문장과 비유를 즐기고, 숫자는 늘 맥락과 함께 제시합니다.

관련 기사

시사만화. 동아시아 거리를 배경으로 가운데 걸린 풍경화 액자 모서리에 빈 꼬리표가 매달려 있다. 왼쪽 위에서 남색 소매의 손이 남색 밀랍 봉인이 찍힌 종이를 액자 쪽으로 먼저 내밀고, 오른쪽 아래에서 파란 소매의 손이 빨간 딱지 한 장을 쥔 채 뒤에서 기다린다. 왼쪽 아래에는 투표함, 오른쪽 위에는 빈 광고판이 흐리게 보인다.
테크KR
AI 표시 안 하면 바로 과태료? 한국·대만 9개 법 대조

AI기본법상 표시 위반 과태료는 시정명령을 따르지 않을 때 붙는다. PRISM이 대조한 한국 5개·대만 4개 현행 법률에서 AI 표시·공개 누락에 명령 없이 첫 위반부터 돈이 붙는 곳은 선거운동 딥페이크와 대만 플랫폼 광고 두 곳이다.

시사만화. 나무 작업대 위 컨베이어 벨트에 풍경화 액자 하나가 실려 오른쪽 나무 검문 아치로 들어간다. 왼쪽 위에서 남색 소매의 두 손이 액자에 옅은 물결무늬를 롤러로 막 입히고 빨간 꼬리표의 끈을 놓는다. 오른쪽 아래에서 파란 소매의 두 손이 스캐너로 꼬리표를 읽고 액자 앞에 빈 카드를 집게로 단다.
테크KR
AI 표시, 중국 플랫폼엔 확인 의무 EU 강령엔 두 겹 약속

중국은 2025년 9월부터 AI 생성물 파일에 'AIGC' 메타데이터를 넣게 하고, 유통 플랫폼에 확인 의무를 뒀다. EU 실천강령 서명자는 이미지·영상·오디오에 메타데이터와 워터마크 두 겹을 자율로 약속한다. 갈리는 곳을 원문으로 본다.

시사만화. 넓은 남색 플랫폼 위에 핀이 달린 커다란 사각형 프로세서 칩이 놓여 있다. 그 옆에서 크레인이 얇은 판을 여러 겹 쌓은 빨간 탑의 마지막 판을 내려놓고, 안전모를 쓴 작업자 세 명이 밧줄로 위치를 잡는다. 뒤로는 상자형 트럭들이 지평선까지 줄지어 탑이 완성되기를 기다린다.
테크KR
HBM이란? 고대역폭 메모리 구조와 3사 실적 읽는 법

HBM(고대역폭 메모리)은 D램을 수직으로 쌓아 AI 칩 옆에 붙인 메모리다. 적층·TSV 구조, HBM3·HBM4 표준 수치, SK하이닉스·삼성전자·마이크론 실적 자료에서 HBM 문구를 읽는 법을 정리했다.

시사만화. 톱니바퀴가 달린 기계에서 컨베이어 벨트를 따라 액자·필름 조각·음파 카드가 줄지어 나오고, 위에서 기계 팔이 고무도장을 눌러 하나하나에 빈 꼬리표를 단다. 도장 손잡이 둘레에는 작은 별 열두 개가 원을 이룬다. 옆의 좁은 문 너머 짧은 곁길에는 꼬리표 없는 낡은 액자 하나와 모래가 거의 다 내려온 빨간 모래시계가 놓여 있다.
테크KR
EU 딥페이크 표시 이미 시행…12월 2일 끝나는 유예는 좁다

EU AI법 제50조의 딥페이크·AI 생성물 표시 의무는 8월 2일부터 적용 중이다. 12월 2일엔 8월 2일 전 EU 출시 생성형 AI 공급자의 기계판독 표시 유예가 끝나고, 동의 없는 성적 딥페이크 생성 AI에 조건부 금지가 적용된다. 한국 AI기본법도 표시 의무를 둔다.

PRISM

광고주 모집

[email protected]
PRISM

광고주 모집

[email protected]