馬斯克 Grok AI 爆發嚴重爭議：色情暴力影片氾濫且安全防線形同虛設

當自由失去底線，科技將淪為犯罪工具。馬斯克（Elon Musk）旗下的 xAI 開發的 AI 聊天機器人「Grok」近日深陷輿論風暴。調查發現，用戶正利用該平台的進階影片生成功能，產出大量極度露骨、暴力且涉及未成年人的色情影像。這波「深偽淫穢影像」的氾濫，已引起多國監管機構的高度關注。

馬斯克 Grok AI 安全爭議與內容漏洞分析

根據《WIRED》報導，研究人員在 Grok.com 平台上發現了與 X（原推特）截然不同的高度開放性。在抽查的 1,200 個 網址中，高達約 800 個 包含極度露骨的內容。巴黎非營利組織 AI Forensics 指出，其中約 10% 的影像涉及兒童性虐待素材（CSAM），情況令人髮指。

廣告

廣告合作

[email protected]

廣告

這些生成的內容不僅包含針對好萊塢影星的深度偽造影片，甚至出現帶有暴力色彩的性侵犯場景。儘管 xAI 聲稱設有安全過濾機制，但用戶在網路論壇上公開分享各種「繞過技巧」，顯示其防禦系統形同虛設。法律專家指出，這種技術的無差別擴散，正在模糊現實與虛擬的界線，並對社會道德底線造成翻天覆地的衝擊。

監管與道德的雙重夾擊

雖然馬斯克在 X 上強硬表示將對違法內容使用者採取行動，但法國檢察官辦公室已開始對相關投訴展開調查。與 OpenAI 或 Google 不同，xAI 採用的「辛辣模式（spicy mode）」似乎刻意放寬了內容限制，這使公司在面臨技術出口與法規遵從時處於極其尷尬的境地。目前已有大量訂閱用戶因不滿平台混亂而發起退訂行動。