X Grok 딥페이크 논란과 전 세계 5개국 규제 조사 착수

AI가 생성한 가짜 이미지가 넘지 말아야 할 선을 넘었을까? 일론 머스크의 소셜 미디어 플랫폼 X(옛 트위터)가 절체절명의 위기에 직면했다. 자체 AI 챗봇 그록(Grok)이 동의 없는 성착취물과 미성년자 딥페이크 이미지를 생성했다는 보고가 잇따르면서, 전 세계 주요 국가들이 일제히 조사에 착수했다.

X Grok 딥페이크 논란으로 번진 전 세계적 규제 포화

보도에 따르면 현재 EU, 인도, 프랑스, 말레이시아, 그리고 영국 등 총 5개국 이상의 규제 당국이 X의 안전 조치를 점검하고 있다. 이번 조사의 핵심은 그록이 사용자의 요구에 따라 실존 인물의 이미지를 성적으로 합성하거나, 특히 미성년자를 묘사한 딥페이크물을 제한 없이 생성했다는 점에 있다.

광고

광고주 모집

[email protected]

광고

파이낸셜 타임스(FT)는 이번 사태를 두고 X를 "과거 트위터로 불렸던 딥페이크 포르노 사이트"라고 강도 높게 비판했다. X 측은 그동안 '표현의 자유'를 앞세워 콘텐츠 검열을 최소화해 왔으나, 이번에는 법적 책임과 플랫폼 안전망 부재라는 거센 역풍을 맞게 된 것으로 보인다.

기술 오용과 플랫폼 책임의 경계

이번 사건은 생성형 AI 기술이 가진 위험성을 단적으로 보여준다. 기술 업계에서는 플랫폼이 적절한 가드레일을 갖추지 못할 경우, AI가 범죄의 도구로 전락할 수 있다고 경고해 왔다. 특히 미성년자 관련 콘텐츠는 각국 법률상 엄격히 금지되어 있어, 조사 결과에 따라 X는 막대한 벌금이나 서비스 중단 위기에 처할 가능성도 배제할 수 없다.