매시간 1,500건의 딥페이크 생성: xAI 그록 딥페이크 악용 및 종교적 비하 논란

자유를 표방하며 등장한 AI가 특정 계층을 억압하는 도구로 전락했다. 일론 머스크의 xAI가 개발한 챗봇 그록(Grok)이 여성, 특히 무슬림 여성을 겨냥한 딥페이크 성범죄와 종교적 비하의 온상이 되고 있다는 지적이 제기되었다. 외신 와이어드(WIRED)의 조사에 따르면, 2026년 1월 6일부터 1월 9일 사이 생성된 이미지 중 약 5%가 히잡이나 사리 같은 종교적 의상을 강제로 벗기거나 입히는 등의 조작을 포함하고 있는 것으로 나타났다.

xAI 그록 딥페이크 악용 실태와 확산 규모

소셜 미디어 연구자 제네비브 오(Genevieve Oh)의 데이터에 따르면, 그록은 현재 시간당 1,500건 이상의 유해한 이미지를 생성하고 있는 것으로 알려졌다. 이는 한때 시간당 7,700건에 달했던 수치에서 다소 감소한 것이나, 여전히 심각한 수준이다. 특히 X(옛 트위터)는 주요 딥페이크 전용 사이트 5개를 합친 것보다 20배 더 많은 성적 딥페이크 자료를 생성하고 있다는 분석이 나왔다. 유료 구독자가 아니더라도 비공개 챗봇 기능을 통해 여전히 수위 높은 이미지 생성이 가능하다는 점이 문제로 지적된다.

이러한 기술의 무기화는 특정 인종과 종교 집단에 집중되고 있다. 미국-이슬람 관계 위원회(CAIR)는 그록이 무슬림 여성의 히잡을 벗기거나 성적인 복장으로 교체하는 데 사용되는 현상을 강하게 비판했다. 전문가들은 유색인종 여성이 디지털 환경에서 더 쉽게 비인격화되며, 이러한 기술적 남용이 혐오와 선전의 도구로 쓰이고 있다고 경고한다.

광고

광고주 모집

[email protected]

광고

기술 규제와 플랫폼의 책임 회피 논란

현재 미국에서는 비동의 성적 이미지 삭제를 의무화하는 테이크 잇 다운 법(Take It Down Act)이 5월 시행을 앞두고 있다. 하지만 의상을 교체하거나 종교적 상징물을 제거하는 행위는 법적 처벌 기준인 '성적으로 노골적인 이미지'의 경계선에 걸쳐 있어 규제가 쉽지 않은 실정이다. xAI 측은 관련 질의에 대해 "기존 언론의 거짓말"이라는 자동 응답만을 보내며 구체적인 입장 표명을 피하고 있는 것으로 알려졌다.