딥페이크 판별, 이제 9일 안에 해결하라
인도가 소셜미디어 플랫폼에 AI 생성 콘텐츠 9일 내 삭제 의무화. 10억 사용자 시장의 압박이 글로벌 기술 표준을 바꿀까?
10억 사용자가 기다리고 있다
인도가 소셜미디어 플랫폼들에게 9일이라는 시한을 줬다. 불법 AI 생성 콘텐츠를 발견하면 즉시 삭제하고, 모든 합성 콘텐츠에는 명확한 라벨을 붙이라는 것이다. 2월 20일부터 시행되는 이 규정은 단순한 지역 법안이 아니다. 10억 명의 인터넷 사용자를 보유한 인도는 소셜미디어 플랫폼들의 핵심 성장 동력이기 때문이다.
그동안 기술 기업들은 "자율적으로 해결하겠다"고 말해왔다. 이제 선택권이 사라졌다.
기술 vs 현실: 9일의 딜레마
현재 딥페이크 탐지 기술의 정확도는 85-90% 수준이다. 완벽하지 않다. 더 큰 문제는 속도다. 인도의 젊은 사용자들은 하루에 수십억 개의 콘텐츠를 업로드한다. 이를 9일 안에 검토하고 판단한다는 것은 현재 기술로는 거의 불가능에 가깝다.
메타와 유튜브는 이미 AI 기반 탐지 시스템을 운영하고 있지만, 오탐지율이 15-20%에 달한다. 진짜를 가짜로, 가짜를 진짜로 판단하는 실수가 빈번하다는 뜻이다.
플랫폼들의 속내: "할 수 있다" vs "해야 한다"
기술 기업들의 반응은 복잡하다. 공개적으로는 "규정을 준수하겠다"고 밝혔지만, 내부적으로는 기술적 한계와 비용 부담을 우려하고 있다. 한 소셜미디어 임원은 익명을 조건으로 "완벽한 딥페이크 탐지는 현재로서는 불가능하다"고 토로했다.
반면 인도 정부는 단호하다. "기술적 어려움은 변명이 될 수 없다. 사용자 보호가 우선"이라는 입장이다. 특히 선거철을 앞둔 상황에서 가짜 뉴스와 딥페이크로 인한 사회 혼란을 막겠다는 의지가 강하다.
한국에 미칠 파장
인도의 이번 규제가 한국에도 영향을 미칠 가능성이 높다. 네이버와 카카오도 글로벌 서비스를 운영하면서 비슷한 압박에 직면할 수 있다. 더 중요한 건 기술 표준의 변화다. 인도에서 검증된 딥페이크 탐지 기술이 글로벌 표준이 될 가능성이 크다.
국내 AI 기업들에게는 기회이기도 하다. 딥페이크 탐지 기술에 대한 수요가 급증하면서 관련 스타트업들의 투자 유치가 활발해질 전망이다.
기자
관련 기사
AI기본법상 표시 위반 과태료는 시정명령을 따르지 않을 때 붙는다. PRISM이 대조한 한국 5개·대만 4개 현행 법률에서 AI 표시·공개 누락에 명령 없이 첫 위반부터 돈이 붙는 곳은 선거운동 딥페이크와 대만 플랫폼 광고 두 곳이다.
EU AI법 제50조의 딥페이크·AI 생성물 표시 의무는 8월 2일부터 적용 중이다. 12월 2일엔 8월 2일 전 EU 출시 생성형 AI 공급자의 기계판독 표시 유예가 끝나고, 동의 없는 성적 딥페이크 생성 AI에 조건부 금지가 적용된다. 한국 AI기본법도 표시 의무를 둔다.
필리핀 가상 비서들이 AI를 이용해 LinkedIn 임원 계정을 대신 운영하는 산업의 실태. 하루 30~40개 댓글, 가짜 팔로워, '좋아요' 품앗이까지 — 직업적 진정성의 의미를 묻는다.
스냅·유튜브·틱톡이 미국 학교 측 소송에서 합의했다. 메타는 아직 재판 중. 1,000건 이상의 유사 소송을 앞둔 분수령 판결이 될 수 있다.
의견
이 기사에 대한 생각을 나눠주세요
로그인하고 의견을 남겨보세요