인도네시아 말레이시아 그록 차단: 딥페이크 성범죄 확산에 따른 사상 초유의 조치

AI가 생성한 음란물이 국가적 금지령을 불러왔다. 인도네시아와 말레이시아 정부는 일론 머스크의 xAI가 개발한 챗봇 '그록(Grok)'을 일시적으로 차단했다. 로이터 통신에 따르면, 이번 조치는 해당 챗봇이 X(옛 트위터) 여성 사용자들과 아동의 나체 이미지를 생성하는 데 대규모로 악용되었다는 보고 이후 전격적으로 이뤄졌다.

인도네시아 말레이시아 그록 차단: 디지털 폭력에 대한 단호한 대응

인도네시아 통신정보부의 무티아 하피드 장관은 지난 2026년 1월 10일 성명을 통해 비동의 성적 딥페이크를 인간의 존엄성과 시민의 보안을 침해하는 중대한 '디지털 범죄'로 규정했다. 그녀는 AI를 이용한 가짜 포르노 제작을 '디지털 기반 폭력'의 한 형태라고 비판하며, 자국 내에서 운영되는 모든 디지털 플랫폼은 유해 콘텐츠 배포를 방지할 충분한 보호 장치를 증명해야 한다고 강조했다.

이어 2026년 1월 11일에는 말레이시아 정부도 동참했다. 말레이시아 통신멀티미디어위원회(MCMC)는 X 측에 1월 3일과 1월 8일 두 차례에 걸쳐 음란물 생성 방지 대책을 요구했으나, 만족스러운 답변을 받지 못했다고 밝혔다. 이번 차단은 법적 및 규제 절차가 진행되는 동안의 예방적 조치로 알려졌다.

반복되는 글로벌 빅테크와의 충돌

동남아시아 국가들이 미국 빅테크 기업에 강경한 태도를 보인 것은 이번이 처음이 아니다. 인도네시아 정부는 2024년 말 중국 이커머스 플랫폼 테무(Temu)의 앱 스토어 차단을 구글과 애플에 요구한 바 있으며, 아이폰 16 판매를 금지하며 약 10억 달러 규모의 현지 제조 시설 투자를 이끌어내기도 했다. 이번 그록 차단 역시 자국민 보호와 디지털 주권 강화라는 정책적 맥락 위에 있는 것으로 보인다.

논란이 확산되자 일론 머스크는 지난 주말 대부분의 사용자들에 대해 그록의 이미지 생성 기능을 비활성화했다. 그는 불법 콘텐츠를 제작하는 사용자에게는 불법물을 직접 업로드한 것과 동일한 법적 책임을 물을 것이라고 경고했지만, 인도네시아와 말레이시아 당국은 더욱 구체적인 재발 방지 규정이 마련될 때까지 차단을 유지할 방침이다.