그록 딥페이크 차단 인도네시아 말레이시아 확산... 전 세계 AI 규제 직면

자유인가 방종인가? 동남아시아가 일론 머스크의 AI에 빗장을 걸었다. 인도네시아와 말레이시아 정부는 xAI의 챗봇인 그록(Grok)이 생성하는 딥페이크가 심각한 인권 침해를 유발한다는 우려로 해당 서비스의 접속을 전격 차단했다. 이번 조치는 규제 당국의 요구사항을 충족하는 안전장치가 마련될 때까지 유지될 전망이다.

그록 딥페이크 차단 인도네시아 말레이시아 배경

인도네시아 통신디지털부 장관 메우티아 하피드(Meutya Hafid)는 공식 성명을 통해 "동의 없는 성적 딥페이크는 디지털 공간에서 시민의 안전과 존엄성을 위협하는 중대한 범죄"라고 강조했다. 말레이시아 역시 X(옛 트위터) 플랫폼 내 AI 도구 오용에 대한 조사를 시작하며 규제 대열에 합류했다.

이러한 결정의 배경에는 최근 와이어드(Wired)의 조사 결과가 결정적인 역할을 했다. 보도에 따르면 그록은 내장된 안전장치에도 불구하고 성적으로 폭력적인 이미지나 유명인의 딥페이크를 생성할 수 있는 것으로 드러났다. 특히 사용자가 요청할 경우 사진 속 인물의 옷을 벗기는 식의 부적절한 콘텐츠 제작이 가능했다는 점이 충격을 주고 있다.

광고

광고주 모집

[email protected]

광고

전 세계로 번지는 AI 규제 포화

규제 움직임은 동남아시아에만 국한되지 않는다. 인도 IT 부처는 이미 그록의 오용과 관련해 X 측에 즉각적인 조치를 요구했으며, 프랑스 검찰과 유럽연합(EU) 역시 온라인 안전법 위반 여부를 조사 중이다. 영국 또한 온라인 안전법 위반이 확인될 경우 플랫폼 전체를 차단할 수 있다고 경고했다.

반면 일론 머스크는 정부의 이러한 조치를 '표현의 자유 억압'이라며 강력히 반발하고 있다. 그는 자신의 X 계정을 통해 "정부가 기업을 검열하기 위해 안달이 나 있다"고 비판하며 대립각을 세웠다.