딥페이크 판별, 이제 9일 안에 해결하라

10억 사용자가 기다리고 있다

인도가 소셜미디어 플랫폼들에게 9일이라는 시한을 줬다. 불법 AI 생성 콘텐츠를 발견하면 즉시 삭제하고, 모든 합성 콘텐츠에는 명확한 라벨을 붙이라는 것이다. 2월 20일부터 시행되는 이 규정은 단순한 지역 법안이 아니다. 10억 명의 인터넷 사용자를 보유한 인도는 소셜미디어 플랫폼들의 핵심 성장 동력이기 때문이다.

그동안 기술 기업들은 "자율적으로 해결하겠다"고 말해왔다. 이제 선택권이 사라졌다.

기술 vs 현실: 9일의 딜레마

현재 딥페이크 탐지 기술의 정확도는 85-90% 수준이다. 완벽하지 않다. 더 큰 문제는 속도다. 인도의 젊은 사용자들은 하루에 수십억 개의 콘텐츠를 업로드한다. 이를 9일 안에 검토하고 판단한다는 것은 현재 기술로는 거의 불가능에 가깝다.

메타와 유튜브는 이미 AI 기반 탐지 시스템을 운영하고 있지만, 오탐지율이 15-20%에 달한다. 진짜를 가짜로, 가짜를 진짜로 판단하는 실수가 빈번하다는 뜻이다.

광고

광고주 모집

[email protected]

광고

플랫폼들의 속내: "할 수 있다" vs "해야 한다"

기술 기업들의 반응은 복잡하다. 공개적으로는 "규정을 준수하겠다"고 밝혔지만, 내부적으로는 기술적 한계와 비용 부담을 우려하고 있다. 한 소셜미디어 임원은 익명을 조건으로 "완벽한 딥페이크 탐지는 현재로서는 불가능하다"고 토로했다.

반면 인도 정부는 단호하다. "기술적 어려움은 변명이 될 수 없다. 사용자 보호가 우선"이라는 입장이다. 특히 선거철을 앞둔 상황에서 가짜 뉴스와 딥페이크로 인한 사회 혼란을 막겠다는 의지가 강하다.

한국에 미칠 파장

인도의 이번 규제가 한국에도 영향을 미칠 가능성이 높다. 네이버와 카카오도 글로벌 서비스를 운영하면서 비슷한 압박에 직면할 수 있다. 더 중요한 건 기술 표준의 변화다. 인도에서 검증된 딥페이크 탐지 기술이 글로벌 표준이 될 가능성이 크다.

국내 AI 기업들에게는 기회이기도 하다. 딥페이크 탐지 기술에 대한 수요가 급증하면서 관련 스타트업들의 투자 유치가 활발해질 전망이다.