AI가 진실을 바꿀 때, 우리는 무엇을 믿어야 할까

미국 국토보안부가 대중에게 공유하는 콘텐츠를 만들 때 구글과 어도비의 AI 영상 생성기를 사용한다는 사실이 처음으로 확인됐다. 더 충격적인 건 따로 있다. 사람들이 콘텐츠가 가짜라는 걸 알아도 여전히 그 내용에 영향을 받는다는 연구 결과가 나온 것이다.

정부도, 언론도 AI 편집에 의존

지난주 백악관은 ICE 시위에서 체포된 여성의 사진을 디지털로 조작해 게시했다. 원본보다 더 히스테리컬하고 눈물을 흘리는 모습으로 바꾼 것이다. 백악관 부대변인 케일런 도르는 사진 조작 여부에 대한 질문에 답하지 않고 "밈은 계속될 것"이라고만 답했다.

언론도 예외가 아니다. MS Now(구 MSNBC)는 알렉스 프레티의 AI 편집 이미지를 방송에 내보냈다. 더 잘생겨 보이도록 수정된 사진이었다. 이 방송사는 편집된 줄 모르고 방송했다고 해명했지만, 이미 조 로건 팟캐스트를 비롯해 여러 매체에서 화제가 됐다.

문제는 이 두 사례를 같은 선상에서 봐서는 안 된다는 점이다. 하나는 정부가 의도적으로 조작한 이미지를 공유하고 해명을 거부한 경우고, 다른 하나는 언론사가 실수를 인정하고 정정한 경우다. 하지만 많은 사람들이 "어차피 다 똑같다"는 식으로 반응하고 있다.

진실 검증 도구들의 한계

2024년 내내 화제였던 '콘텐츠 진위 이니셔티브'를 기억하는가? 어도비가 주도하고 주요 테크 기업들이 채택한 이 시스템은 콘텐츠에 제작자, 제작 방식, AI 사용 여부 등을 표시하는 라벨을 붙이는 것이었다.

그런데 정작 어도비 자신도 완전히 AI로 생성된 콘텐츠에만 이 라벨을 붙인다. 부분적으로 AI를 사용한 경우는 표시하지 않는 것이다. 더 큰 문제는 X(구 트위터) 같은 플랫폼이 이런 라벨을 임의로 제거할 수 있다는 점이다. 실제로 조작된 체포 사진에는 사용자들이 직접 "조작됨" 표시를 추가했다.

국방부의 공식 이미지 공유 사이트인 DVIDS도 마찬가지다. 어도비는 이 사이트가 진위 라벨을 표시할 것이라고 발표했지만, 현재 사이트를 확인해보면 그런 라벨은 찾을 수 없다.

가짜라고 말해줘도 믿는 사람들

더 심각한 문제가 있다. 커뮤니케이션 심리학 저널에 발표된 최신 연구에 따르면, 사람들은 콘텐츠가 완전히 가짜라는 걸 명시적으로 알려줘도 여전히 그 내용에 감정적으로 영향을 받는다.

연구진은 참가자들에게 범죄를 '자백'하는 딥페이크 영상을 보여줬다. 그리고 이 영상이 가짜라고 분명히 말해줬다. 그런데도 참가자들은 해당 인물의 유죄 여부를 판단할 때 이 가짜 영상의 내용을 고려했다.

"투명성은 도움이 되지만 그것만으로는 충분하지 않다"고 허위정보 전문가 크리스토퍼 네링은 말했다. "딥페이크에 대한 새로운 마스터플랜을 개발해야 한다."

한국은 어떻게 대비해야 할까

한국도 예외가 아니다. 정부 기관들이 홍보용 콘텐츠를 만들 때 AI 도구를 사용하는 경우가 늘고 있다. 네이버와 카카오 같은 플랫폼에서도 AI 생성 콘텐츠가 급증하고 있다.

문제는 우리가 지금까지 "진짜와 가짜를 구별하지 못하면 큰일 난다"는 관점에서만 접근해왔다는 점이다. 하지만 실제로는 "가짜인 줄 알아도 영향받는" 상황이 벌어지고 있다.

국내 언론사들도 마찬가지다. AI 편집 도구의 사용이 늘면서 어디까지가 허용 가능한 편집이고, 어디서부터가 조작인지에 대한 기준이 모호해지고 있다. 삼성전자나 LG전자 같은 기업들의 제품 홍보 이미지는 어떨까? 소비자들이 알아야 할 정보와 그렇지 않은 정보의 경계는 어디일까?