딥페이크 성착취, 이제 8초면 끝난다

한 장의 사진만 있으면 된다. 클릭 몇 번이면 8초 분량의 노골적인 성적 영상이 완성된다. "첨단 AI 기술로 어떤 사진이든 누드 버전으로 변환하세요"라는 문구가 버젓이 적힌 웹사이트에서 벌어지는 일이다.

WIRED가 추적한 결과, 딥페이크 성착취 생태계는 우리가 상상하는 것보다 훨씬 정교하고 산업화되어 있다. 단순한 '누드화' 수준을 넘어 65개의 다양한 성적 시나리오 템플릿을 제공하고, 심지어 AI로 생성한 음성까지 추가할 수 있다.

텔레그램에서 발견된 140만 계정의 충격

WIRED가 조사한 50여 개 딥페이크 웹사이트는 월 수백만 조회수를 기록하며, 거의 모두가 고품질 영상 생성 서비스를 제공한다. 더 충격적인 것은 텔레그램이다. 39개 딥페이크 생성 봇과 채널에 가입한 계정 수만 140만 개에 달했다.

WIRED의 문의 후 텔레그램은 32개 딥페이크 도구를 삭제했다. 텔레그램 대변인은 "비동의 포르노그래피는 서비스 약관에 따라 엄격히 금지된다"며 작년에만 4400만 건의 위반 콘텐츠를 삭제했다고 밝혔다.

하지만 문제는 계속 확산되고 있다. 작년 6월 한 딥페이크 서비스는 "섹스 모드"를 홍보하며 "다양한 옷, 좋아하는 포즈, 나이 등을 시도해보라"고 광고했다. 또 다른 서비스는 "더 많은 스타일"이 곧 출시될 예정이며 사용자가 "상상하는 것을 정확히 만들 수 있다"고 약속했다.

오픈소스 AI가 만든 괴물

딥페이크 성착취가 이렇게 빠르게 확산된 배경에는 오픈소스 AI 모델의 발전이 있다. MIT의 AI 안전 연구자 스티븐 캐스퍼는 "이 생태계는 오픈소스 모델을 기반으로 구축됐다"며 "오픈소스 모델을 사용해 앱을 개발하고, 사용자가 그것을 이용하는 구조"라고 설명했다.

2017년 말 처음 등장한 성적 딥페이크는 당시 기술적 지식이 필요했다. 하지만 지난 3년간 생성형 AI의 급속한 발전으로 누구나 쉽게 사용할 수 있게 됐다. 딥페이크 전문가 헨리 아이더는 "더 이상 조잡한 합성 이미지가 아니다. 훨씬 높은 수준의 현실감과 광범위한 기능을 제공한다"고 말했다.

독립 분석가 산티아고 라카토스는 여러 대형 딥페이크 웹사이트들이 시장 지위를 굳히고 다른 서비스들에 API를 제공하고 있다고 분석했다. "다른 웹사이트나 누드화 앱을 인수하거나 인프라 제공업체가 되는 방식으로 통합하고 있다"는 것이다.

피해자는 언제나 여성과 아이들

비동의 친밀 이미지(NCII) 피해자는 거의 항상 여성이다. 가짜 이미지와 비동의 영상은 괴롭힘, 굴욕감, "비인간화" 등 엄청난 피해를 야기한다. 정치인, 연예인, 소셜미디어 인플루언서뿐만 아니라 직장 동료, 친구, 심지어 학교에서 급우들을 대상으로도 악용되고 있다.

뉴스쿨 응용심리학과 파니 파비드 교수는 "피해자는 주로 여성과 아동, 성적 소수자"라며 "우리 사회는 어떤 형태든 여성에 대한 폭력을 심각하게 받아들이지 않는다"고 지적했다.

호주 연구진이 딥페이크 남용 가해자와 피해자 25명을 인터뷰한 결과, 사용하기 쉬운 딥페이크 도구, 비동의 성적 이미지 생성의 정상화, 피해 최소화라는 세 가지 요인이 문제를 악화시키고 있다는 결론을 내렸다.

연구에 참여한 가해자 중 8명이 남성이었으며, 이들의 동기는 성적 착취, 타인에게 해를 끼치려는 의도, 동료들로부터의 인정이나 유대감 형성, 그리고 도구에 대한 호기심 등으로 나타났다. 한 가해자는 "뭐가 가능한지 보고 싶었다. 그런 걸 만들 수 있다는 신과 같은 쾌감을 느꼈다"고 말했다.