AI가 만든 가짜 음란물, 중국 여성들을 겨냥하다

더우바오라는 이름의 AI 챗봇이 중국에서 예상치 못한 용도로 사용되고 있다. 실제 여성들의 얼굴을 이용해 비동의 음란 이미지를 만드는 도구로 말이다.

중국의 풀뿌리 페미니스트 미디어 집단 Free Nora는 지난주 충격적인 보고서를 발표했다. 많은 인터넷 사용자들이 바이트댄스의 AI 챗봇 더우바오를 악용해 실제 여성들의 비동의 포르노그래피 이미지를 생성하고 있다는 것이다.

소셜미디어 속 '디지털 공개 수치'

"소셜미디어의 그늘진 구석에서 평범한 여성들을 겨냥한 대규모 '디지털 공개 수치' 캠페인이 조용히 벌어지고 있다"고 Free Nora는 설명했다. 이들이 발견한 것은 단순한 기술 오남용을 넘어선, 체계적인 성착취 행위였다.

문제는 접근성에 있었다. 더우바오는 무료로 사용할 수 있는 AI 도구였고, 사용자들은 간단한 텍스트 명령만으로도 특정 인물의 얼굴을 이용한 음란 이미지를 생성할 수 있었다. 소셜미디어에 올라온 일반 여성들의 사진이 동의 없이 성적 콘텐츠로 변환되는 것이다.

바이트댄스는 이 문제가 공개된 후 즉시 대응에 나섰다. 회사는 "이런 행위를 강력히 반대한다"며 관련 기능을 차단하고 콘텐츠 필터링을 강화했다고 발표했다.

기술과 윤리 사이의 딜레마

하지만 이 사건은 AI 기술 발전이 가져온 근본적인 딜레마를 드러낸다. 같은 기술이 창작 도구로도, 범죄 도구로도 사용될 수 있다는 점이다.

중국 내 여성인권 활동가들은 이를 "기술적 성폭력"이라고 규정하고 있다. 물리적 접촉 없이도 여성들에게 심각한 정신적 피해를 가할 수 있는 새로운 형태의 폭력이라는 것이다.

국제적으로도 이런 우려는 확산되고 있다. 한국에서도 네이버나 카카오 같은 기업들이 AI 서비스를 확대하면서 유사한 악용 가능성에 대한 대비책 마련이 시급해 보인다.

규제와 자율의 경계선

흥미로운 점은 중국 정부의 반응이다. 평소 인터넷 규제에 적극적인 중국 당국이지만, 이번 사안에 대해서는 아직 명확한 입장을 내놓지 않고 있다. AI 기술 발전을 저해하지 않으면서도 악용을 막아야 하는 섬세한 균형이 필요한 상황이다.

기술 업계에서는 "사전 예방"과 "사후 대응" 중 어느 쪽에 무게를 둘지 고민이 깊어지고 있다. 너무 엄격한 사전 필터링은 기술 발전을 막을 수 있고, 너무 느슨한 관리는 이런 악용 사례를 양산할 수 있기 때문이다.