딥페이크 해법, 시민에게 물어보자

딥페이크 기술이 일상에 스며들면서 가짜 뉴스와 허위정보의 위협이 현실화되고 있다. 그런데 해결책을 찾는 방식에 변화의 바람이 불고 있다. 기술 전문가나 정부 관료가 아닌, 일반 시민들에게 답을 구하자는 목소리가 커지고 있는 것이다.

기술만으로는 부족했던 이유

지금까지 딥페이크 대응은 주로 기술적 접근에 의존해왔다. AI로 만든 가짜를 AI로 탐지하는 '군비경쟁' 방식이었다. 하지만 이 방법의 한계가 드러나고 있다.

메타의 최신 탐지 시스템도 85%의 정확도에 머물러 있고, 새로운 딥페이크 기술이 나올 때마다 뒤쫓아가는 형국이다. 더 큰 문제는 기술적 완벽함을 추구하다 보면 표현의 자유나 프라이버시 같은 다른 가치들이 희생될 수 있다는 점이다.

스탠포드 대학교의 AI 윤리 연구진은 "딥페이크 문제는 순수한 기술 문제가 아니라 사회적 합의가 필요한 영역"이라고 지적했다. 어떤 콘텐츠를 제재할 것인지, 어느 정도까지 검열을 허용할 것인지는 결국 사회 구성원들이 결정해야 할 문제라는 것이다.

시민이 직접 나서는 새로운 실험

이런 배경에서 '시민배심원' 방식의 딥페이크 대응 모델이 주목받고 있다. 대만에서 시작된 이 실험은 무작위로 선발된 시민들이 딥페이크 관련 정책을 직접 결정하는 방식이다.

150명의 시민배심원들은 3일간 전문가 의견을 듣고 토론을 거쳐 딥페이크 규제 방향을 제시했다. 흥미롭게도 이들이 내린 결론은 전문가들의 예상과 달랐다. 강력한 기술적 검열보다는 '라벨링 의무화'와 '미디어 리터러시 교육 강화'를 우선순위로 꼽았다.

유럽연합도 비슷한 접근을 시도하고 있다. 12개국 시민 2,400명을 대상으로 한 대규모 시민의회에서 AI 규제 방향을 논의하고 있다. 여기서도 '기술 vs 표현의 자유' 딜레마에 대한 시민들의 균형감각이 돋보인다고 평가받는다.

한국에서의 가능성과 과제

한국도 이런 흐름에서 자유롭지 않다. 최근 가짜뉴스와 딥페이크로 인한 피해 사례가 늘어나면서 대응 방안 마련이 시급한 상황이다. 하지만 지금까지는 주로 정부 주도의 규제나 플랫폼 기업의 자율규제에 의존해왔다.

시민 참여형 접근법이 한국에서 성공하려면 몇 가지 조건이 필요하다. 우선 다양한 계층과 지역을 대표할 수 있는 참여자 선발이 중요하다. 또한 복잡한 기술 이슈를 일반인이 이해할 수 있도록 돕는 교육 프로그램도 필수다.

서울대학교 언론정보학과의 한 교수는 "한국의 높은 디지털 리터러시와 활발한 온라인 토론 문화를 고려하면 시민 참여형 모델이 효과적일 수 있다"고 전망했다.