當AI成為傷害工具，科技公司該負多少責任？

一個男人用少女自己傳給他的照片，讓AI「脫掉」了她的衣服。

2026年3月16日，美國田納西州三名未成年少女在加州聯邦法院對馬斯克旗下的AI公司xAI提起集體訴訟。訴狀主張，xAI開發的Grok模型被用於生成描繪她們的兒童性剝削素材（CSAM）。據NPR報導，這是首起由遭受Grok生成CSAM侵害的未成年人直接對該公司提告的案件。

事件經過：一條從社群媒體到犯罪的鏈條

加害者並非直接使用xAI的服務。根據訴狀，他使用了一款取得Grok技術授權的第三方應用程式，而該應用程式透過xAI的伺服器執行影像生成。加害者從社群媒體、畢業紀念冊及受害者親自傳送的照片中蒐集影像，生成了高度寫實的性剝削圖片與影片，其中包括一段顯示其中一名原告逐漸褪去衣物至完全裸露的影片，且這些內容均未標示為AI生成。

受害者不止三人。訴狀指出，加害者利用至少18名未成年人的影像生成性剝削素材，並在Telegram和Discord上以這些內容換取其他兒童性剝削影片。加害者已於2025年12月底被捕。

訴狀的核心指控並非單純的「技術被濫用」，而是主張xAI蓄意規避業界標準的安全防護措施——包括內容過濾器、紅隊測試、與已知CSAM資料庫的雜湊比對，以及向主管機關的強制通報義務——而Google與OpenAI等競爭對手均已採行這些措施。訴狀還指控xAI透過向境外第三方開發者授權Grok，刻意在自身與法律責任之間製造距離。

此案列出13項罪名，涵蓋聯邦法律下的兒童色情製造、散布與持有罪（依據「Masha法」）、《人口販運被害人保護法》，以及加州州法下的不公平競爭、肖像權侵害與多項過失罪名。原告要求每項違規至少賠償15萬美元法定損害賠償金、懲罰性賠償，並請求法院命令xAI停止相關行為。原告律師凡妮莎·貝爾-瓊斯向NPR表示，目標是「讓允許性剝削AI內容的選擇在商業上再也說不通」。

三名少女均表示遭受嚴重精神創傷。協助啟動刑事調查的Jane Doe 1需要學校提供學業特殊安排；Jane Doe 2因焦慮導致嚴重失眠，需要醫療協助，甚至開始恐懼自己的畢業典禮；Jane Doe 3則持續活在恐懼中，害怕每個與她相遇的人或許已經看過那些影像。xAI未回應NPR的置評請求。

廣告

廣告合作

[email protected]

廣告

為何此案牽動整個AI產業

這起訴訟的意義，遠超過一宗個別的刑事案件。

授權模式的法律責任是核心問題。「我只是提供技術，怎麼用是別人的事」——這是科技公司長期以來的免責邏輯。但如果法院認定，明知技術可能被濫用、又刻意省略安全防護的授權行為本身構成過失，那麼整個AI API授權產業的商業模式都將面臨重新檢視。

這對亞洲科技業同樣具有直接影響。無論是台灣、韓國、日本還是新加坡的科技公司，許多都在積極建構或採購AI影像生成能力，並透過API或白牌方式向第三方提供服務。若美國法院確立「授權方須為下游濫用負責」的先例，這些企業的法律風險評估將不得不重寫。

與中國大陸的對比也值得關注。中國對生成式AI的監管採取截然不同的路徑——2023年施行的《生成式人工智能服務管理暫行辦法》要求服務提供者對內容負有主動審核責任，並實施嚴格的實名制。這種「事前管制」模式在隱私與言論自由方面代價高昂，但在某些兒童保護情境下，其預防效果或許比美國「事後追責」的司法模式更為直接。兩種體制各有取捨，沒有簡單的優劣之分。

多方視角：誰在這場訴訟中站在哪裡

從科技公司的角度看，要求授權方對所有下游應用負責，可能嚴重阻礙開放式AI生態系的發展。刀具製造商不需為持刀傷人負責——這是他們慣用的類比。

但受害者與倡議團體的反駁同樣有力：當競爭對手都已建立防護機制，而你選擇不建立，這不是「技術中立」，而是一個商業決策。一個有意為之的選擇，應當承擔相應的後果。

對投資人與資本市場而言，此案是一個訊號：AI公司的安全合規支出，不再只是道德問題，而是財務風險的一部分。忽視安全防護的公司，正在累積潛在的巨額法律負債。

在華人社會的脈絡下，非合意性私密影像（俗稱「深偽色情」）的問題在台灣、香港及東南亞華人社群中同樣日益嚴峻。台灣於2023年修法將深偽性影像列為刑事罪，但AI生成技術的演進速度往往快於立法。這起美國訴訟的結果，將為各地立法者和司法實務提供重要參照。