X 平台 Grok AI 深偽影像限制 形同虛設？不到一分鐘即可輕易破解

防護措施形同虛設。根據The Verge的最新調查發現，破解Elon Musk旗下X平台針對其 AI 聊天機器人 Grok 所設置的深偽影像（Deepfake）生成限制，竟然耗時不到一分鐘。儘管平台聲稱正極力阻止利用 AI 產製非自願性色情內容，但其實際作為與承諾顯然存在巨大鴻溝。

X Grok AI 深偽影像限制 實效性遭強烈質疑

面對網路上鋪天蓋地的非自願性深偽影像，X 最初的應對方案是限制影像編輯功能的權限。具體做法包括禁止免費用戶在公開回覆中標記 Grok 來生成影像。然而，調查指出，Grok 的影像編輯工具對於廣大用戶而言依然「垂手可得」，相關限制措施在技術層面極其脆弱。

廣告

廣告合作

[email protected]

廣告

• 限制僅針對公開標記功能，未封鎖核心生成邏輯。
• 用戶仍可透過特定指令繞過安全過濾器。
• 法規監管壓力與技術落地的速度完全失衡。

法律訴訟與社會道德的雙重考驗

目前 X 平台正因未能有效阻止深偽影像蔓延而備受矚目，甚至面臨潛在的法律訴訟。許多倫理學家與政策制定者指出，若平台不從根本上強化其 AI 模型 Grok 的內容審核機制，這類侵犯人權的影像將持續對受害者造成無法挽回的傷害。