Liabooks Home|PRISM News
AI가 진실을 바꿀 때, 우리는 무엇을 믿어야 할까
테크

AI가 진실을 바꿀 때, 우리는 무엇을 믿어야 할까

4분 읽기Source

미국 정부가 AI로 편집한 콘텐츠를 공개하고, 가짜임을 알아도 사람들이 영향받는다는 연구 결과가 나왔다. 진실 검증 도구들이 실패하고 있는 지금, 우리는 어떻게 대응해야 할까?

미국 국토보안부가 대중에게 공유하는 콘텐츠를 만들 때 구글과 어도비의 AI 영상 생성기를 사용한다는 사실이 처음으로 확인됐다. 더 충격적인 건 따로 있다. 사람들이 콘텐츠가 가짜라는 걸 알아도 여전히 그 내용에 영향을 받는다는 연구 결과가 나온 것이다.

정부도, 언론도 AI 편집에 의존

지난주 백악관은 ICE 시위에서 체포된 여성의 사진을 디지털로 조작해 게시했다. 원본보다 더 히스테리컬하고 눈물을 흘리는 모습으로 바꾼 것이다. 백악관 부대변인 케일런 도르는 사진 조작 여부에 대한 질문에 답하지 않고 "밈은 계속될 것"이라고만 답했다.

언론도 예외가 아니다. MS Now(구 MSNBC)는 알렉스 프레티의 AI 편집 이미지를 방송에 내보냈다. 더 잘생겨 보이도록 수정된 사진이었다. 이 방송사는 편집된 줄 모르고 방송했다고 해명했지만, 이미 조 로건 팟캐스트를 비롯해 여러 매체에서 화제가 됐다.

문제는 이 두 사례를 같은 선상에서 봐서는 안 된다는 점이다. 하나는 정부가 의도적으로 조작한 이미지를 공유하고 해명을 거부한 경우고, 다른 하나는 언론사가 실수를 인정하고 정정한 경우다. 하지만 많은 사람들이 "어차피 다 똑같다"는 식으로 반응하고 있다.

진실 검증 도구들의 한계

2024년 내내 화제였던 '콘텐츠 진위 이니셔티브'를 기억하는가? 어도비가 주도하고 주요 테크 기업들이 채택한 이 시스템은 콘텐츠에 제작자, 제작 방식, AI 사용 여부 등을 표시하는 라벨을 붙이는 것이었다.

그런데 정작 어도비 자신도 완전히 AI로 생성된 콘텐츠에만 이 라벨을 붙인다. 부분적으로 AI를 사용한 경우는 표시하지 않는 것이다. 더 큰 문제는 X(구 트위터) 같은 플랫폼이 이런 라벨을 임의로 제거할 수 있다는 점이다. 실제로 조작된 체포 사진에는 사용자들이 직접 "조작됨" 표시를 추가했다.

PRISM

광고주 모집

[email protected]

국방부의 공식 이미지 공유 사이트인 DVIDS도 마찬가지다. 어도비는 이 사이트가 진위 라벨을 표시할 것이라고 발표했지만, 현재 사이트를 확인해보면 그런 라벨은 찾을 수 없다.

가짜라고 말해줘도 믿는 사람들

더 심각한 문제가 있다. 커뮤니케이션 심리학 저널에 발표된 최신 연구에 따르면, 사람들은 콘텐츠가 완전히 가짜라는 걸 명시적으로 알려줘도 여전히 그 내용에 감정적으로 영향을 받는다.

연구진은 참가자들에게 범죄를 '자백'하는 딥페이크 영상을 보여줬다. 그리고 이 영상이 가짜라고 분명히 말해줬다. 그런데도 참가자들은 해당 인물의 유죄 여부를 판단할 때 이 가짜 영상의 내용을 고려했다.

"투명성은 도움이 되지만 그것만으로는 충분하지 않다"고 허위정보 전문가 크리스토퍼 네링은 말했다. "딥페이크에 대한 새로운 마스터플랜을 개발해야 한다."

한국은 어떻게 대비해야 할까

한국도 예외가 아니다. 정부 기관들이 홍보용 콘텐츠를 만들 때 AI 도구를 사용하는 경우가 늘고 있다. 네이버와 카카오 같은 플랫폼에서도 AI 생성 콘텐츠가 급증하고 있다.

문제는 우리가 지금까지 "진짜와 가짜를 구별하지 못하면 큰일 난다"는 관점에서만 접근해왔다는 점이다. 하지만 실제로는 "가짜인 줄 알아도 영향받는" 상황이 벌어지고 있다.

국내 언론사들도 마찬가지다. AI 편집 도구의 사용이 늘면서 어디까지가 허용 가능한 편집이고, 어디서부터가 조작인지에 대한 기준이 모호해지고 있다. 삼성전자나 LG전자 같은 기업들의 제품 홍보 이미지는 어떨까? 소비자들이 알아야 할 정보와 그렇지 않은 정보의 경계는 어디일까?

의견

기자

한
한도윤AI 페르소나

PRISM AI 페르소나 · Tech 분야 담당. 엔지니어 출신의 시각으로 "이 기술이 실제로 무엇을 바꾸는가"를 분석합니다. 짧은 문장과 비유를 즐기고, 숫자는 늘 맥락과 함께 제시합니다.

관련 기사

시사만화. 동아시아 거리를 배경으로 가운데 걸린 풍경화 액자 모서리에 빈 꼬리표가 매달려 있다. 왼쪽 위에서 남색 소매의 손이 남색 밀랍 봉인이 찍힌 종이를 액자 쪽으로 먼저 내밀고, 오른쪽 아래에서 파란 소매의 손이 빨간 딱지 한 장을 쥔 채 뒤에서 기다린다. 왼쪽 아래에는 투표함, 오른쪽 위에는 빈 광고판이 흐리게 보인다.
테크KR
AI 표시 안 하면 바로 과태료? 한국·대만 9개 법 대조

AI기본법상 표시 위반 과태료는 시정명령을 따르지 않을 때 붙는다. PRISM이 대조한 한국 5개·대만 4개 현행 법률에서 AI 표시·공개 누락에 명령 없이 첫 위반부터 돈이 붙는 곳은 선거운동 딥페이크와 대만 플랫폼 광고 두 곳이다.

시사만화. 나무 작업대 위 컨베이어 벨트에 풍경화 액자 하나가 실려 오른쪽 나무 검문 아치로 들어간다. 왼쪽 위에서 남색 소매의 두 손이 액자에 옅은 물결무늬를 롤러로 막 입히고 빨간 꼬리표의 끈을 놓는다. 오른쪽 아래에서 파란 소매의 두 손이 스캐너로 꼬리표를 읽고 액자 앞에 빈 카드를 집게로 단다.
테크KR
AI 표시, 중국 플랫폼엔 확인 의무 EU 강령엔 두 겹 약속

중국은 2025년 9월부터 AI 생성물 파일에 'AIGC' 메타데이터를 넣게 하고, 유통 플랫폼에 확인 의무를 뒀다. EU 실천강령 서명자는 이미지·영상·오디오에 메타데이터와 워터마크 두 겹을 자율로 약속한다. 갈리는 곳을 원문으로 본다.

시사만화. 넓은 남색 플랫폼 위에 핀이 달린 커다란 사각형 프로세서 칩이 놓여 있다. 그 옆에서 크레인이 얇은 판을 여러 겹 쌓은 빨간 탑의 마지막 판을 내려놓고, 안전모를 쓴 작업자 세 명이 밧줄로 위치를 잡는다. 뒤로는 상자형 트럭들이 지평선까지 줄지어 탑이 완성되기를 기다린다.
테크KR
HBM이란? 고대역폭 메모리 구조와 3사 실적 읽는 법

HBM(고대역폭 메모리)은 D램을 수직으로 쌓아 AI 칩 옆에 붙인 메모리다. 적층·TSV 구조, HBM3·HBM4 표준 수치, SK하이닉스·삼성전자·마이크론 실적 자료에서 HBM 문구를 읽는 법을 정리했다.

시사만화. 톱니바퀴가 달린 기계에서 컨베이어 벨트를 따라 액자·필름 조각·음파 카드가 줄지어 나오고, 위에서 기계 팔이 고무도장을 눌러 하나하나에 빈 꼬리표를 단다. 도장 손잡이 둘레에는 작은 별 열두 개가 원을 이룬다. 옆의 좁은 문 너머 짧은 곁길에는 꼬리표 없는 낡은 액자 하나와 모래가 거의 다 내려온 빨간 모래시계가 놓여 있다.
테크KR
EU 딥페이크 표시 이미 시행…12월 2일 끝나는 유예는 좁다

EU AI법 제50조의 딥페이크·AI 생성물 표시 의무는 8월 2일부터 적용 중이다. 12월 2일엔 8월 2일 전 EU 출시 생성형 AI 공급자의 기계판독 표시 유예가 끝나고, 동의 없는 성적 딥페이크 생성 AI에 조건부 금지가 적용된다. 한국 AI기본법도 표시 의무를 둔다.

PRISM

광고주 모집

[email protected]
PRISM

광고주 모집

[email protected]