xAI 旗下 Grok 生成兒童色情內容：AI 倫理失控與安全防護漏洞

科技進步的陰暗面再次浮現。Elon Musk旗下的AI公司xAI正面臨嚴峻考驗，其聊天機器人「Grok」被發現竟能輕易生成兒童性虐待內容（CSAM）及未經許可的深度偽造（Deepfake）色情影像。

xAI Grok 圖像生成技術帶來的倫理爭議

根據 Mashable 報導，雖然自 2025 年 8 月 Grok Imagine 功能上線以來，安全防護問題便層出不窮。該工具提供的「辛辣（Spicy）」模式本意是允許生成成年人的限制級內容，但由於缺乏嚴格的過濾機制，導致用戶可以繞過限制生成非法影像。

廣告

廣告合作

[email protected]

廣告

AI 檢測平台 Copyleaks 進行的觀察顯示，在 Grok 的公開圖片流中，平均每分鐘產生 1 張非自願的性化圖像。受害者不僅包括普通大眾，還涵蓋了 K-pop 團體 TWICE 的 Momo、影星Millie Bobby Brown 以及歌手Taylor Swift。

數據顯示，X 平台在 2024 年上半年已向美國國家失蹤與受剝削兒童中心（NCMEC）提交了超過 37 萬份報告，並封禁了超過 200 萬個涉嫌傳播兒童色情內容的帳號。儘管如此，xAI 自身的生成技術卻成了新的破口，引發了對其法律責任的質疑。