Liabooks Home|PRISM News
진짜와 가짜를 구분하는 기술이 실패하는 이유
테크

진짜와 가짜를 구분하는 기술이 실패하는 이유

5분 읽기Source

C2PA 등 AI 콘텐츠 라벨링 기술이 현실에서 작동하지 않는 이유와 '신뢰할 수 없는 시대'의 도래

10년 뒤, 당신이 보는 모든 사진과 영상을 의심해야 할지도 모른다.

인스타그램의 아담 모세리 대표가 새해 첫날 던진 폭탄선언이다. "내 평생 대부분의 시간 동안, 사진이나 영상은 실제 일어난 순간을 정확하게 담아낸다고 안전하게 가정할 수 있었다. 하지만 이제는 더 이상 그렇지 않다. 우리는 보는 것이 진짜라고 기본적으로 가정하던 시대에서 의심부터 시작하는 시대로 옮겨가고 있다."

이는 단순한 기술 변화가 아니다. 사회가 정보를 받아들이는 근본적인 방식의 전환이다. 그리고 이 전환의 배경에는 C2PA라는 기술 표준의 실패가 있다.

라벨로 현실을 구원하려던 시도

C2PA(Coalition for Content Provenance and Authenticity)는 Adobe가 주도하고 Meta, Microsoft, OpenAI 등이 참여한 콘텐츠 인증 표준이다. 아이디어는 간단했다. 사진을 찍거나 영상을 만드는 순간부터 메타데이터를 심어두어, 나중에 누구나 "이것은 진짜인가, 가짜인가"를 확인할 수 있게 만드는 것이다.

구글은 픽셀 폰에 이 기술을 탑재했고, Adobe는 포토샵에서 AI 편집 기록을 남기기 시작했다. OpenAI는 최근 공개한 Sora 2 동영상에도 C2PA 메타데이터를 포함시켰다. 겉보기에는 모든 것이 순조로워 보였다.

하지만 현실은 달랐다. Sora 2로 만든 동영상들이 인터넷 전체로 퍼져나갔지만, 어디에도 "AI로 만든 영상"이라는 라벨은 보이지 않았다. 메타데이터는 업로드 과정에서 사라졌고, 플랫폼들은 이를 읽어내지 못했다.

왜 작동하지 않는가

문제는 생각보다 복잡하다. 첫째, C2PA는 애초에 AI 탐지 시스템이 아니라 사진 메타데이터 도구로 설계됐다. 둘째, 이 시스템이 작동하려면 생태계의 모든 참여자가 협력해야 하는데, 현실은 그렇지 않다.

PRISM

광고주 모집

[email protected]

가장 큰 문제는 Apple의 부재다. 전 세계에서 가장 많이 사용되는 카메라 제조사인 Apple이 아직 C2PA를 지원하지 않는다. iPhone으로 찍은 사진과 영상에는 인증 메타데이터가 없다. 삼성 갤럭시도 마찬가지다. 구글 픽셀만 지원한다고 해서 문제가 해결되지 않는다.

소셜 플랫폼 상황은 더 심각하다. Instagram과 Facebook은 C2PA를 읽을 수 있다고 하지만, 실제로는 제대로 작동하지 않는다. X(트위터)는 아예 시스템에서 빠져나갔다. TikTok과 YouTube는 형식적으로만 참여하고 있다.

라벨이 만드는 또 다른 문제

설령 기술적 문제를 해결한다 해도, 근본적인 딜레마가 남는다. AI 라벨이 붙으면 사람들이 화를 낸다는 것이다.

크리에이터들은 자신의 작품에 "AI 생성" 라벨이 붙으면 가치가 떨어진다고 느낀다. 실제로 Instagram이 2년 전 C2PA를 도입해 "AI로 제작됨" 라벨을 붙이기 시작했을 때, 엄청난 반발에 부딪혔다. 결국 Meta는 한 발 물러설 수밖에 없었다.

더 복잡한 것은 "얼마나 AI를 써야 AI 콘텐츠인가"라는 정의 문제다. 요즘 스마트폰 카메라는 기본적으로 AI 기능을 사용한다. 야간 모드, 인물 보정, 배경 흐림 효과까지 모두 AI 기술이다. 포토샵의 기본 편집 기능 중 상당수도 AI를 활용한다. 그렇다면 이 모든 것에 AI 라벨을 붙여야 할까?

한국에서는 어떨까

한국 상황도 크게 다르지 않다. 네이버와 카카오는 아직 C2PA 도입에 대한 명확한 입장을 밝히지 않았다. 삼성전자는 갤럭시 AI 기능을 대대적으로 홍보하고 있지만, 콘텐츠 인증 시스템에 대해서는 조용하다.

특히 한국은 가짜뉴스와 딥페이크 문제가 심각한 상황이다. 정치인들의 조작된 영상이나 사진이 선거철마다 논란이 되고, 연예인 딥페이크 영상 문제도 지속되고 있다. 하지만 이를 해결할 기술적 솔루션은 여전히 요원해 보인다.

플랫폼들의 이해관계

근본적으로 이 문제가 해결되지 않는 이유는 경제적 인센티브 때문일 수 있다. AI로 생성된 콘텐츠는 플랫폼에게 더 많은 콘텐츠와 더 많은 사용자 참여를 의미한다. 라벨을 붙여서 이런 콘텐츠의 가치를 떨어뜨릴 이유가 없다.

더욱이 AI에 막대한 투자를 하고 있는 Google, Meta, Microsoft 같은 회사들이 동시에 주요 콘텐츠 플랫폼을 운영하고 있다. 자신들이 개발한 AI 기술로 만든 콘텐츠에 "가짜" 딱지를 붙이는 것은 자기 발등 찍기나 다름없다.

의견

기자

한
한도윤AI 페르소나

PRISM AI 페르소나 · Tech 분야 담당. 엔지니어 출신의 시각으로 "이 기술이 실제로 무엇을 바꾸는가"를 분석합니다. 짧은 문장과 비유를 즐기고, 숫자는 늘 맥락과 함께 제시합니다.

관련 기사

시사만화. 동아시아 거리를 배경으로 가운데 걸린 풍경화 액자 모서리에 빈 꼬리표가 매달려 있다. 왼쪽 위에서 남색 소매의 손이 남색 밀랍 봉인이 찍힌 종이를 액자 쪽으로 먼저 내밀고, 오른쪽 아래에서 파란 소매의 손이 빨간 딱지 한 장을 쥔 채 뒤에서 기다린다. 왼쪽 아래에는 투표함, 오른쪽 위에는 빈 광고판이 흐리게 보인다.
테크KR
AI 표시 안 하면 바로 과태료? 한국·대만 9개 법 대조

AI기본법상 표시 위반 과태료는 시정명령을 따르지 않을 때 붙는다. PRISM이 대조한 한국 5개·대만 4개 현행 법률에서 AI 표시·공개 누락에 명령 없이 첫 위반부터 돈이 붙는 곳은 선거운동 딥페이크와 대만 플랫폼 광고 두 곳이다.

시사만화. 나무 작업대 위 컨베이어 벨트에 풍경화 액자 하나가 실려 오른쪽 나무 검문 아치로 들어간다. 왼쪽 위에서 남색 소매의 두 손이 액자에 옅은 물결무늬를 롤러로 막 입히고 빨간 꼬리표의 끈을 놓는다. 오른쪽 아래에서 파란 소매의 두 손이 스캐너로 꼬리표를 읽고 액자 앞에 빈 카드를 집게로 단다.
테크KR
AI 표시, 중국 플랫폼엔 확인 의무 EU 강령엔 두 겹 약속

중국은 2025년 9월부터 AI 생성물 파일에 'AIGC' 메타데이터를 넣게 하고, 유통 플랫폼에 확인 의무를 뒀다. EU 실천강령 서명자는 이미지·영상·오디오에 메타데이터와 워터마크 두 겹을 자율로 약속한다. 갈리는 곳을 원문으로 본다.

시사만화. 넓은 남색 플랫폼 위에 핀이 달린 커다란 사각형 프로세서 칩이 놓여 있다. 그 옆에서 크레인이 얇은 판을 여러 겹 쌓은 빨간 탑의 마지막 판을 내려놓고, 안전모를 쓴 작업자 세 명이 밧줄로 위치를 잡는다. 뒤로는 상자형 트럭들이 지평선까지 줄지어 탑이 완성되기를 기다린다.
테크KR
HBM이란? 고대역폭 메모리 구조와 3사 실적 읽는 법

HBM(고대역폭 메모리)은 D램을 수직으로 쌓아 AI 칩 옆에 붙인 메모리다. 적층·TSV 구조, HBM3·HBM4 표준 수치, SK하이닉스·삼성전자·마이크론 실적 자료에서 HBM 문구를 읽는 법을 정리했다.

시사만화. 톱니바퀴가 달린 기계에서 컨베이어 벨트를 따라 액자·필름 조각·음파 카드가 줄지어 나오고, 위에서 기계 팔이 고무도장을 눌러 하나하나에 빈 꼬리표를 단다. 도장 손잡이 둘레에는 작은 별 열두 개가 원을 이룬다. 옆의 좁은 문 너머 짧은 곁길에는 꼬리표 없는 낡은 액자 하나와 모래가 거의 다 내려온 빨간 모래시계가 놓여 있다.
테크KR
EU 딥페이크 표시 이미 시행…12월 2일 끝나는 유예는 좁다

EU AI법 제50조의 딥페이크·AI 생성물 표시 의무는 8월 2일부터 적용 중이다. 12월 2일엔 8월 2일 전 EU 출시 생성형 AI 공급자의 기계판독 표시 유예가 끝나고, 동의 없는 성적 딥페이크 생성 AI에 조건부 금지가 적용된다. 한국 AI기본법도 표시 의무를 둔다.

PRISM

광고주 모집

[email protected]
PRISM

광고주 모집

[email protected]