진짜와 가짜를 구분하는 기술이 실패하는 이유

C2PA 등 AI 콘텐츠 라벨링 기술이 현실에서 작동하지 않는 이유와 '신뢰할 수 없는 시대'의 도래

10년 뒤, 당신이 보는 모든 사진과 영상을 의심해야 할지도 모른다.

인스타그램의 아담 모세리 대표가 새해 첫날 던진 폭탄선언이다. "내 평생 대부분의 시간 동안, 사진이나 영상은 실제 일어난 순간을 정확하게 담아낸다고 안전하게 가정할 수 있었다. 하지만 이제는 더 이상 그렇지 않다. 우리는 보는 것이 진짜라고 기본적으로 가정하던 시대에서 의심부터 시작하는 시대로 옮겨가고 있다."

이는 단순한 기술 변화가 아니다. 사회가 정보를 받아들이는 근본적인 방식의 전환이다. 그리고 이 전환의 배경에는 C2PA라는 기술 표준의 실패가 있다.

라벨로 현실을 구원하려던 시도

C2PA(Coalition for Content Provenance and Authenticity)는 Adobe가 주도하고 Meta, Microsoft, OpenAI 등이 참여한 콘텐츠 인증 표준이다. 아이디어는 간단했다. 사진을 찍거나 영상을 만드는 순간부터 메타데이터를 심어두어, 나중에 누구나 "이것은 진짜인가, 가짜인가"를 확인할 수 있게 만드는 것이다.

구글은 픽셀 폰에 이 기술을 탑재했고, Adobe는 포토샵에서 AI 편집 기록을 남기기 시작했다. OpenAI는 최근 공개한 Sora 2 동영상에도 C2PA 메타데이터를 포함시켰다. 겉보기에는 모든 것이 순조로워 보였다.

하지만 현실은 달랐다. Sora 2로 만든 동영상들이 인터넷 전체로 퍼져나갔지만, 어디에도 "AI로 만든 영상"이라는 라벨은 보이지 않았다. 메타데이터는 업로드 과정에서 사라졌고, 플랫폼들은 이를 읽어내지 못했다.

왜 작동하지 않는가

문제는 생각보다 복잡하다. 첫째, C2PA는 애초에 AI 탐지 시스템이 아니라 사진 메타데이터 도구로 설계됐다. 둘째, 이 시스템이 작동하려면 생태계의 모든 참여자가 협력해야 하는데, 현실은 그렇지 않다.

가장 큰 문제는 Apple의 부재다. 전 세계에서 가장 많이 사용되는 카메라 제조사인 Apple이 아직 C2PA를 지원하지 않는다. iPhone으로 찍은 사진과 영상에는 인증 메타데이터가 없다. 삼성 갤럭시도 마찬가지다. 구글 픽셀만 지원한다고 해서 문제가 해결되지 않는다.

소셜 플랫폼 상황은 더 심각하다. Instagram과 Facebook은 C2PA를 읽을 수 있다고 하지만, 실제로는 제대로 작동하지 않는다. X(트위터)는 아예 시스템에서 빠져나갔다. TikTok과 YouTube는 형식적으로만 참여하고 있다.

라벨이 만드는 또 다른 문제

설령 기술적 문제를 해결한다 해도, 근본적인 딜레마가 남는다. AI 라벨이 붙으면 사람들이 화를 낸다는 것이다.

크리에이터들은 자신의 작품에 "AI 생성" 라벨이 붙으면 가치가 떨어진다고 느낀다. 실제로 Instagram이 2년 전 C2PA를 도입해 "AI로 제작됨" 라벨을 붙이기 시작했을 때, 엄청난 반발에 부딪혔다. 결국 Meta는 한 발 물러설 수밖에 없었다.

더 복잡한 것은 "얼마나 AI를 써야 AI 콘텐츠인가"라는 정의 문제다. 요즘 스마트폰 카메라는 기본적으로 AI 기능을 사용한다. 야간 모드, 인물 보정, 배경 흐림 효과까지 모두 AI 기술이다. 포토샵의 기본 편집 기능 중 상당수도 AI를 활용한다. 그렇다면 이 모든 것에 AI 라벨을 붙여야 할까?

한국에서는 어떨까

한국 상황도 크게 다르지 않다. 네이버와 카카오는 아직 C2PA 도입에 대한 명확한 입장을 밝히지 않았다. 삼성전자는 갤럭시 AI 기능을 대대적으로 홍보하고 있지만, 콘텐츠 인증 시스템에 대해서는 조용하다.

특히 한국은 가짜뉴스와 딥페이크 문제가 심각한 상황이다. 정치인들의 조작된 영상이나 사진이 선거철마다 논란이 되고, 연예인 딥페이크 영상 문제도 지속되고 있다. 하지만 이를 해결할 기술적 솔루션은 여전히 요원해 보인다.

플랫폼들의 이해관계

근본적으로 이 문제가 해결되지 않는 이유는 경제적 인센티브 때문일 수 있다. AI로 생성된 콘텐츠는 플랫폼에게 더 많은 콘텐츠와 더 많은 사용자 참여를 의미한다. 라벨을 붙여서 이런 콘텐츠의 가치를 떨어뜨릴 이유가 없다.

더욱이 AI에 막대한 투자를 하고 있는 Google, Meta, Microsoft 같은 회사들이 동시에 주요 콘텐츠 플랫폼을 운영하고 있다. 자신들이 개발한 AI 기술로 만든 콘텐츠에 "가짜" 딱지를 붙이는 것은 자기 발등 찍기나 다름없다.