當AI說「安全」，誰在為孩子付出代價？

一個被標榜為「安全」的AI工具，在97%的案例中，將女童的圖像轉化為性剝削素材。

2026年3月24日，美國馬里蘭州巴爾的摩市正式對伊隆·馬斯克旗下的xAI提起訴訟，成為美國首個直接起訴該公司的主要城市。巴爾的摩市長布蘭登·斯科特在聲明中直言：「深度偽造對受害者造成終身創傷。我們談論的是科技公司在縱容對兒童的性剝削。」這不是一句政治修辭，而是一份法律宣戰書。

事件全貌：從「比基尼挑戰」到法庭

事件的導火線，是一個看似無害的網路趨勢。Grok的AI圖像生成功能允許用戶上傳他人照片並將其「去衣化」，這一功能迅速在社群媒體上以「put her in a bikini（讓她穿上比基尼）」為標籤廣泛流傳。更關鍵的是，馬斯克本人也參與其中，在社群媒體上分享了一張以Grok生成的自己穿著比基尼的圖片。

巴爾的摩的訴狀對此毫不留情：「馬斯克的發文實際上是對Grok生成性化真實人物圖像能力的公開背書，向用戶發出這類使用方式被接受、甚至被鼓勵的信號。」訴狀指控xAI違反消費者保護法，以欺騙性手段將Grok和X（前身為Twitter）宣傳為對用戶「普遍安全」的產品。

這起訴訟並非孤例。就在上週，田納西州三名青少年以Grok生成描繪他們遭受性化及侮辱性場景的圖像為由，提起集體訴訟。英國網路監察基金會（IWF）同日發布的報告顯示，2025年其評估的違法AI生成性化圖像中，97%的目標是女童。數字背後，是真實存在的受害者。

巴爾的摩市要求法院判令xAI支付最高額法定罰款，並強制其修改平台設計，以遏制非合意親密圖像（NCII）及兒童性剝削素材（CSAM）的生成。

廣告

廣告合作

[email protected]

廣告

為何此刻至關重要

時間節點耐人尋味。xAI剛於上月完成與SpaceX的合併，馬斯克的商業版圖進一步整合擴張。就在這一整合完成後不久，訴訟接踵而至，監管壓力在多個國家同步升溫。

從更宏觀的視角來看，這一案件觸及了當前AI治理的核心矛盾：AI安全的討論長期聚焦於「未來超級智能威脅人類」的抽象風險，卻在某種程度上忽視了此刻正在傷害真實個體的具體危害。巴爾的摩的訴訟，是在用法律語言問一個技術倫理問題：當企業說「安全」，這個「安全」是為誰設計的？

對華人世界而言，這一問題同樣具有現實意義。台灣、香港及東南亞華人社群是全球社群媒體的活躍用戶群體，也是AI圖像生成工具的重要消費市場。當這類工具在法律灰色地帶運作時，亞洲用戶——尤其是女性和未成年人——同樣暴露在相似的風險之中，卻往往缺乏同等的法律救濟途徑。

與此同時，中國大陸對AI生成內容的監管路徑與西方截然不同。國家互聯網信息辦公室已要求AI生成內容必須加水印標識，並對「深度合成」技術實施備案管理。這一強監管模式在保護個人隱私方面或許更為主動，但也引發了關於技術創新空間的另一層討論。兩種體制，各有取捨，卻都在面對同一個問題：技術邊界在哪裡？

多方視角：法律、商業與文化的交叉點

從法律策略的角度看，巴爾的摩選擇以市級消費者保護法而非聯邦法規為依據，這一選擇頗具深意。在美國聯邦層面AI立法遲滯的背景下，地方政府正在嘗試用現有工具填補監管空白。若此案勝訴，可能引發其他城市的連鎖效應，形成「地方包圍聯邦」的監管格局。

對廣告主和企業合作夥伴而言，這場訴訟也是一個警示信號。任何在X或Grok平台上投放廣告、或與xAI存在商業合作的品牌，都需要重新評估其品牌聲譽風險。這對包括亞洲企業在內的全球廣告主而言，是一個不容忽視的商業變數。

而對於深度偽造的受害者來說，問題的殘酷性在於：一旦圖像在網路上擴散，幾乎無法被徹底清除。這種「數位永久傷害」的特性，使其在本質上有別於傳統的名譽侵權，也對現有法律框架提出了根本性挑戰。