荷蘭法院封殺Grok：AI裸照風波如何改寫全球規則

僅僅12天，約300萬張。這是2025年12月29日至2026年1月9日間，AI聊天機器人「Grok」被估計生成的性化圖像數量。更令人警惕的是，其中逾2萬3,000張疑似描繪未成年人。

一紙禁令，從阿姆斯特丹發出

2026年3月27日，荷蘭阿姆斯特丹地方法院對伊隆·馬斯克旗下的AI公司 xAI 發出歐洲首例針對Grok的禁制令。禁令措辭清晰：禁止在未獲當事人明確同意的情況下，生成或散布使人部分或全裸的性化圖像，範圍涵蓋成人及兒童性剝削素材（CSAM）。

法院同時禁止平台「X」（前身為Twitter）在歐洲地區提供Grok功能。若 xAI 拒不遵從，每日罰款10萬歐元（約新台幣350萬元），上限為1,000萬歐元（約新台幣3.5億元）。此外，xAI 須在14天內向提訴方支付220萬歐元的訴訟費用。

提起訴訟的是荷蘭非營利組織「Offlimits」，專門對抗針對兒童及青少年的網路性剝削。組織執行董事羅伯特·霍芬在判決後表示：「法官昨天劃下了清晰的界線：科技不是在網路上侵犯人權的許可證。」

事件如何演變至此

問題最早在2026年1月浮出水面。數位仇恨打擊中心（CCDH）揭露Grok大規模生成性化圖像的狀況後，xAI 宣布限制Grok生成真實人物的性化內容，聲稱適用於包括付費用戶在內的所有使用者。

然而，Offlimits 的調查發現，這些限制輕易便可繞過。法院也認定，xAI 的措施「不足以適當保護使用者」，從而作出禁制裁決。

法律戰線並不只在歐洲。美國巴爾的摩市本週二成為首個對 xAI 提訴的主要城市，指控其違反消費者保護法，並對Grok和X的安全性作出誤導性宣傳。田納西州三名青少年上週也提起訴訟，指Grok將其圖像製成性露骨內容。歐盟委員會已依據《數位服務法》（DSA）展開調查，英國監管機構Ofcom及資訊專員辦公室（ICO）亦啟動各自的調查程序。

廣告

廣告合作

[email protected]

廣告

在亞洲，馬來西亞與印尼已於1月封鎖Grok，理由是X Corp「屢次未能」解決相關風險。

這對華人世界意味著什麼？

從台灣、香港到東南亞華人社群，這場法律風波有幾個值得關注的層面。

第一，平台責任的標準正在重塑。 歐洲法院的裁決確立了一個關鍵原則：科技公司不能以「技術上難以完全防堵」為由免除責任，法院評估的是企業是否採取了「足夠的努力」。這一標準若成為國際慣例，將直接影響在全球運營的平台——包括那些在亞洲市場活躍的服務。

第二，台灣的數位立法正面臨類似挑戰。 台灣近年積極推動《數位中介服務法》草案，但AI生成內容的規範仍是灰色地帶。Grok事件提供了一個具體的參照系：當自律機制失靈，法律介入的時機與力度應如何拿捏？

第三，對比中國大陸的管理路徑。 中國大陸對AI生成內容採取了截然不同的監管策略——2023年施行的《生成式人工智能服務管理暫行辦法》要求服務提供者對生成內容負責，並設有嚴格的事前審查機制。這種「強監管、重合規」的模式與歐洲的「事後追責」路徑形成對比，各有優劣，也反映出不同的治理哲學。

技術能力與法律責任之間的裂縫

xAI 至今未就裁決作出回應。但這場爭議的核心矛盾，在於技術限制的實際效力。即便平台設下禁令，使用者仍可透過調整提示詞或借助其他工具加以規避。這正是法院認定 xAI 措施不足的原因所在。

AI開發者或許會辯稱，要求平台對所有潛在濫用負責，如同要求刀具製造商為所有持刀傷人事件擔責，在邏輯上並不公平。但法院的邏輯不同：問題不在於「是否能做到完美」，而在於「是否盡到了合理的注意義務」。

值得注意的是，本次判決的時間點恰好與歐洲議會就「裸化工具」（Nudify tools）投票禁止的時間重疊。Offlimits 代表將此稱為「雙重勝利」，顯示歐洲在數位人權議題上正形成更協調一致的政策走向。