딥페이크 판별법, 왜 이렇게 늦어지고 있을까

인스타그램 CEO 아담 모세리가 연말에 던진 한 마디가 화제다. "진정성이 무한히 복제 가능해지고 있다." 크리에이터들이 가진 고유한 가치—진짜로 연결되고, 가짜로 만들어질 수 없는 목소리—가 이제 누구나 적절한 도구만 있으면 흉내낼 수 있다는 것이다.

그의 해법은 단순해 보였다. 카메라 제조사가 촬영 순간 이미지에 암호화 서명을 넣어 '진품 증명서'를 만들자는 것. 하지만 현실은 그리 간단하지 않다.

기술은 있는데, 왜 안 될까

딥페이크 탐지 기술 자체는 이미 존재한다. 구글의 SynthID, 마이크로소프트의 Video Authenticator 등 대형 AI 기업들이 앞다퉈 솔루션을 내놓고 있다. 문제는 실용성이다.

현재 딥페이크 탐지율은 실험실에서 90% 이상을 기록하지만, 실제 환경에서는 60-70%로 떨어진다. 압축, 해상도 변경, 플랫폼 간 이동 과정에서 탐지 신호가 손실되기 때문이다. 더 큰 문제는 AI가 발전할수록 탐지가 더 어려워진다는 점이다.

메타는 자사 플랫폼에서 AI 생성 콘텐츠에 라벨을 붙이겠다고 발표했지만, 실제로는 창작자의 '자발적 신고'에 의존하고 있다. 강제성이 없는 시스템의 한계가 드러나는 대목이다.

각자의 이해관계, 다른 온도차

플랫폼 기업들은 딜레마에 빠져 있다. 너무 엄격한 탐지 시스템을 도입하면 크리에이터들이 떠날 수 있고, 너무 느슨하면 가짜 뉴스와 사기의 온상이 될 수 있다. 유튜브는 AI 생성 콘텐츠 공개를 의무화했지만, 위반 시 제재는 미미한 수준이다.

언론계는 이 문제에 더 절박하다. 로이터와 BBC 같은 주요 언론사들은 자체 검증 시스템을 구축하고 있지만, 비용과 시간이 만만치 않다. 특히 속보 상황에서는 검증보다 신속성이 우선시되는 경우가 많다.

정부와 규제 기관은 또 다른 고민이 있다. 유럽연합의 AI Act처럼 강력한 규제를 만들어도 기술 발전 속도를 따라잡기 어렵다. 한국 정부도 딥페이크 관련 법안을 준비 중이지만, 표현의 자유와 기술 혁신 사이의 균형점 찾기가 쉽지 않다.

한국은 어떻게 대응하고 있나

국내에서도 딥페이크 문제는 심각하다. 2023년 기준 국내 딥페이크 영상의 99.6%가 여성을 대상으로 한 불법 콘텐츠였다. 네이버와 카카오 같은 국내 플랫폼들은 자체 AI 탐지 시스템을 도입했지만, 해외 플랫폼에서 유입되는 콘텐츠까지 막기는 어려운 상황이다.

삼성전자는 갤럭시 카메라에 블록체인 기반 인증 시스템 도입을 검토 중이라고 알려졌다. 하지만 기존 수십억 대의 스마트폰과 카메라는 어떻게 할 것인가라는 현실적 문제가 남는다.