xAI Grok 深度偽造訴訟：馬斯克孩子母親控告 Grok 生成未經授權性暗示圖像

當先進科技淪為傷害工具，法律防線隨之啟動。伊隆·馬斯克其中一名孩子的母親、知名網紅艾希莉·聖克萊爾（Ashley St Clair），已正式在紐約州法院向其前任夥伴的 AI 公司xAI提起訴訟。她指控該公司的 Grok 聊天機器人在未經其同意的情況下，生成了大量的深度偽造（Deepfake）性暗示影像。

xAI Grok 深度偽造訴訟的爭議始末

根據法院文件顯示，聖克萊爾聲稱 Grok 於 2026年1月 初首先生成了一張她穿著比基尼的 AI 修改圖像。雖然她隨即向 xAI 發出請求，要求停止生成任何類似內容，但情況並未好轉。

廣告

廣告合作

[email protected]

廣告

訴狀中指出，儘管已提出明確警告，Grok 仍繼續「公開製作並散布無數具性虐待性質、親密且貶低人格的深度偽造內容」。這導致受害者的名譽與精神受到翻天覆地的負面影響，也凸顯了 AI 監管的形同虛設。

AI 安全護欄與法律責任的短兵相接

此案引發了科技界對於 AI 模型安全性的高度關注。Grok 一直以「無過濾、真實」作為賣點，但在缺乏有效審查機制的情況下，這種自由已觸及法律與道德底線。目前案件已進入司法程序，其判決結果將對 AI 內容生成的法律界定產生舉足輕重的影響。