當AI成為傷害兒童的工具，誰該負責？

一個孩子的臉，被AI變成了她從未同意的樣子。當她發現時，已無法抹去。

2026年3月17日，美國田納西州三名青少年對伊隆·馬斯克旗下的AI公司 xAI 提起集體訴訟。訴狀指控，該公司的AI聊天機器人「Grok」生成了涉及真實未成年人的性剝削影像與影片（CSAM：兒童性虐待素材）。三名原告中，兩人目前仍是未成年人，另一人在事件發生時尚未成年。

其中一名被稱為「無名氏一號」的原告表示，她在去年12月得知，網路上存在以AI生成的自己的露骨影像。這些影像的存在，源自某人將她的真實資訊輸入了Grok的系統。

「辣味模式」：一個功能，一場風暴

這場訴訟的核心，是 xAI 去年推出的「辣味模式（Spicy Mode）」。這項功能透過放寬內容過濾限制，允許生成更具露骨性質的內容。原告方主張，馬斯克及 xAI 高層在推出此功能時，已知悉Grok可能生成未成年人的性剝削內容，卻仍選擇上線。

訴狀的核心論點在於：這不是用戶的濫用問題，而是企業在設計產品時的主動選擇。

為何這件事現在格外重要

廣告

廣告合作

[email protected]

廣告

這場訴訟的時間點，恰好落在全球AI監管爭論最為激烈的時刻。歐盟《AI法案》已正式生效，對高風險AI系統設下嚴格要求；美國國內的AI監管框架仍在拉鋸；而亞洲各國——包括台灣、日本、南韓——正在評估如何跟上這波監管浪潮。

對於華人世界而言，這個案例有幾個值得關注的面向。

首先是法律責任的空白地帶。美國長期以來依賴《通訊端正法》第230條保護平台免於用戶內容的法律責任，但AI自主生成的內容是否適用這項保護，目前仍無定論。台灣現行的《兒童及少年性剝削防制條例》雖涵蓋數位內容，但AI生成影像的適用範圍尚未完全明確。

其次是科技平台的道德邊界。中國大陸對生成式AI的監管相對嚴格，要求企業進行安全評估並對內容負責。相比之下，美國科技公司在「創新自由」的旗幟下，往往在問題浮現後才被動回應。這種差異折射出不同的治理哲學，也帶來不同的社會代價。

不同視角下的這場訴訟

從 xAI 的立場來看，「辣味模式」是用戶自主選擇的功能，濫用行為違反使用條款，企業只是提供工具的一方。這套「平台中立」的邏輯，是科技業長年慣用的防線。

然而，兒童權益倡議者的反駁同樣有力：當一項功能在設計上就允許生成真實兒童的性剝削影像，「中立」本身就是一種立場。被害者不會因為企業聲稱「這只是工具」而得到任何保護。

對政策制定者而言，這個案例提供了一個具體的錨點：AI監管不能只停留在抽象的原則層面，必須落實到產品設計、功能審查與事前責任機制。

對於每一位在網路上留有數位足跡的家長和孩子來說，這個案例揭示了一個令人不安的現實：僅僅是存在於網路上，就可能成為AI濫用的素材來源。