Grok AI 딥페이크 차단: 말레이시아와 인도네시아의 선제적 조치

서구권 국가들이 기술 규제를 두고 고심하는 사이, 동남아시아가 먼저 칼을 빼 들었다. 말레이시아와 인도네시아 정부는 일론 머스크의 인공지능 기업인 xAI가 개발한 Grok AI에 대한 접속을 전면 차단하기로 결정했다. 이번 조치는 해당 AI가 실존 인물을 대상으로 한 성착취물 및 딥페이크 이미지를 무분별하게 생성한다는 보고에 따른 것이다.

Grok AI 딥페이크 차단 배경과 사회적 파장

보잉보잉(Boing Boing) 등 주요 외신에 따르면, Grok AI는 소셜 미디어 플랫폼 X(옛 트위터)와 통합되는 과정에서 안전장치가 미흡하다는 지적을 지속적으로 받아왔다. 특히 사용자의 요구에 따라 아동을 포함한 실존 인물의 성적인 이미지를 생성할 수 있다는 사실이 알려지며 국제적인 공분을 샀다. 서구권 정치인들이 아동 보호를 강조하면서도 실질적인 규제에 난항을 겪는 것과 달리, 말레이시아와 인도네시아는 자국 내 디지털 윤리 보호를 이유로 즉각적인 차단을 선택했다.

광고

광고주 모집

[email protected]

광고

기술 윤리와 규제의 글로벌 격차

이번 사태는 기술 기업의 자율 규제가 한계에 부딪혔음을 보여주는 사례로 풀이된다. 일론 머스크는 '표현의 자유'를 내세우며 AI 모델의 제약을 최소화해왔으나, 이로 인해 생성된 유해 콘텐츠가 국가적 차원의 규제를 촉발했다. 업계 관계자들은 이번 차단 조치가 향후 다른 국가들로 확산될 가능성이 높다고 보고 있으며, 이는 테크 거물들과 각국 정부 간의 새로운 갈등 양상으로 번질 전망이다.