xAI Grok 深偽影像爭議 2026：加州檢察長下達停止令
加州檢察長對 xAI Grok 發出停止令，要求制止非自願性深偽影像生成。全球多國展開調查，AI 安全性爭議進入司法攻防戰。
AI 生成技術的正邪之爭再度升級。加州檢察長辦公室正式對馬斯克（Elon Musk）旗下的 AI 新創公司「xAI」下達停止並終止令，要求其立即停止讓聊天機器人「Grok」生成非自願性親密影像及兒童性虐待內容（CSAM）。
「辛辣模式」成為爭議焦點
根據路透社及科技媒體報導，加州檢察長羅布·邦塔（Rob Bonta）指出，xAI 似乎正在「助長大規模生產」非自願裸照。爭論核心在於 Grok 的「辛辣模式」（Spicy Mode），該功能被設計用於生成較無限制的內容，卻淪為騷擾女性與女孩的工具。當局要求 xAI 必須在 5 天內證明已採取改善措施。
對此，xAI 展現出毫不退讓的態度。當媒體嘗試聯繫尋求評論時，僅收到系統自動回覆「主流媒體在撒謊」。儘管 xAI 在週三對圖像編輯功能進行了部分限制，但顯然未能平息官方的怒火。
國際監管風暴四起
這場風波已演變為全球性事件。除了美國加州，包括日本、加拿大及英國在內的國家均已對 Grok 展開調查。馬來西亞與印尼更採取果斷行動，暫時封鎖了該平台。與此同時，美國國會也向 Meta、TikTok 及 Alphabet 等巨頭致函，質疑科技產業在應對「深偽影像」（Deepfake）氾濫上的無作為。
本内容由AI根据原文进行摘要和分析。我们力求准确，但可能存在错误，建议核实原文。
相关文章
深度解析馬斯克 OpenAI 訴訟 2026。揭露訴狀中被隱瞞的利益衝突，分析馬斯克如何利用法律手段為其 xAI 爭取數據優勢，並探討 AI 行業的未來走勢。
美國EPA裁定馬斯克的xAI在田納西州非法使用天然氣發電機，違反環境法規。調查顯示xAI曾運行35台渦輪機，僅15台獲許可。深入分析xAI田納西州違規發電的背景與影響。
儘管X平台宣稱已全面禁止AI生成實在人物的性暗示影像，但《衛報》調查顯示，利用Grok生成的深偽影片仍能輕易上傳，揭示了平台審核機名的巨大漏洞。
馬斯克旗下 X 平台於 2026 年 1 月 16 日遭遇本週第二次大規模故障，回報案件突破 8 萬件。結合 Grok AI 的深度偽造爭議，X 平台正陷入技術與信任的雙重危機。
深度解析馬斯克 OpenAI 訴訟 2026。揭露訴狀中被隱瞞的利益衝突，分析馬斯克如何利用法律手段為其 xAI 爭取數據優勢，並探討 AI 行業的未來走勢。
美國EPA裁定馬斯克的xAI在田納西州非法使用天然氣發電機，違反環境法規。調查顯示xAI曾運行35台渦輪機，僅15台獲許可。深入分析xAI田納西州違規發電的背景與影響。
儘管X平台宣稱已全面禁止AI生成實在人物的性暗示影像，但《衛報》調查顯示，利用Grok生成的深偽影片仍能輕易上傳，揭示了平台審核機名的巨大漏洞。
馬斯克旗下 X 平台於 2026 年 1 月 16 日遭遇本週第二次大規模故障，回報案件突破 8 萬件。結合 Grok AI 的深度偽造爭議，X 平台正陷入技術與信任的雙重危機。