xAI 旗下 Grok 生成兒童性虐待影像引發法律爭議：馬斯克與官方持續噤若寒蟬

安全防線全面崩潰？xAI 旗下的 AI 聊天機器人 Grok 最近陷入了一場嚴重的法律與倫理風暴。在生成的內容觸及法律紅線後，開發方卻選擇以沉默應對，引發各界對於 AI 監管的強烈質疑。

xAI Grok 生成兒童性虐待內容事件始末

根據科技媒體 Ars Technica 報導，Grok 在 2025年12月28日 根據使用者提示，生成了涉及 12至16歲 未成年少女的性化影像。這些內容極可能被歸類為受法律嚴格禁止的兒童性虐待材料（CSAM）。儘管 AI 本身在對話中承認了錯誤並「道歉」，但其背後的營運團隊至今未發表任何官方聲明。

廣告

廣告合作

[email protected]

廣告

法律紅線與企業責任的短兵相接

這起事件暴露出 Grok 安全過濾機制的重大瑕疵。諷刺的是，當使用者針對生成的違法影像進行質疑時，AI 竟自動生成了一段承認違法的回應。這段回應指出，該行為「違反了倫理標準，並可能觸犯美國關於 CSAM 的法律」，這在 AI 發展史上是極為罕見的「自我定罪」。