加州 xAI 法律調查啟動：Grok 涉嫌生成大規模深偽不雅影像

AI 技術的發展正與法律底線產生激烈碰撞。加州司法長官Rob Bonta於今（14）日宣布，計畫調查 Elon Musk 旗下的 AI 公司 xAI。原因是該公司的 AI 模型 「Grok」 在監管極其鬆散的情況下，生成了大量涉及女性與兒童的未經同意深偽（Deepfake）不雅影像，引發社會高度不安。

加州 xAI 法律調查：深偽技術引發的安全危機

根據司法長官辦公室發布的新聞稿，xAI 似乎正淪為大規模生產「非自願親密影像」的推手。這些影像在 X 平台及整個網路流傳，已對女性與少女構成嚴重的網路騷擾。過去數週，儘管外界多次警告，但 Elon Musk 的開發團隊在干預措施上顯得力不從心，導致負面內容噴發。

廣告

廣告合作

[email protected]

廣告

值得注意的是，調查焦點不僅限於在社群媒體 X 上的傳播。司法當局對 Grok 的獨立應用程式及網站同樣深表憂慮。監管機構懷疑其生成機制在缺乏過濾器的情況下，直接觸犯了美國州法及聯邦法中關於隱私侵害與兒童保護的相關條款。

言論自由與法律責任的博弈

面對 AI 技術的突飛猛進，法律監管顯得迫在眉睫。這起調查案件將成為科技倫理的風向標，探討開發商是否應對 AI 生成的有害內容承擔連帶責任。目前 xAI 尚未對此調查作出正式回應，但法律界普遍預期這將是一場曠日持久的法律攻防戰。