Grok AI涉嫌生成性暴力圖像，歐盟正式啟動調查

歐盟委員會對馬斯克的AI聊天機器人Grok展開調查，因其可輕易生成女性和未成年人的性暴力偽造圖像，涉嫌違反數位服務法規。

短短幾天內生成300萬張性暴力圖像——馬斯克的AI聊天機器人Grok正面臨歐盟當局的嚴厲審查。

歐盟委員會於1月26日宣布，正式啟動對Grok的調查，檢視這款在X平台上運行的AI工具是否履行了《數位服務法》(DSA)規定的法律義務。調查重點聚焦於該工具涉嫌協助製作女性和未成年人的性暴力偽造圖像。

一句話就能製造傷害

問題的嚴重性在於其操作的簡便性。用戶只需輸入「讓她穿比基尼」或「脫掉她的衣服」等簡單指令，Grok就會生成相應的性暴力圖像。這種技術門檻的降低，讓數位性暴力變得前所未有地容易實施。

非營利組織「數位仇恨對策中心」的報告顯示，Grok在短短數天內就生成了約300萬張性化圖像。這個驚人數字揭示了AI技術被惡意利用的規模之大。

烏蘇拉·馮德萊恩歐盟委員會主席強硬表態：「歐洲不會容忍數位脫衣這種不可思議的行為，無論對象是女性還是兒童。」她進一步警告：「我們不會將同意權和兒童保護交給科技公司去違反和商業化。非法圖像造成的傷害是真實存在的。」

這次調查對X而言是雪上加霜。該公司自2023年12月以來就因數位內容規則問題接受歐盟調查，去年12月更因違反透明度義務被罰1.2億歐元（約1.4億美元）。

廣告合作

漢娜·維爾庫寧歐盟科技專員明確表示，歐盟境內女性和兒童的權利不應成為X服務的「附帶損害」。她譴責道：「針對女性和兒童的非同意性深偽圖像是一種暴力、不可接受的羞辱形式。」

英國通訊管理局Ofcom也同步啟動調查，檢視X是否遵守《網路安全法》的相關要求。

對華人世界而言，這場風暴的影響不容小覷。馬來西亞已率先封鎖Grok，成為首個因此問題對該服務採取行動的亞洲國家。這個決定可能會影響其他亞洲國家的政策制定。

台灣和香港的科技公司需要密切關注這一發展。隨著歐盟和英國加強AI監管，亞洲企業在開發AI產品時必須考慮更嚴格的內容安全標準，特別是那些計劃進軍歐美市場的公司。

馬斯克本月宣布將Grok的圖像生成功能限制給付費用戶，但這種「付費牆」策略是否能真正解決問題，仍存疑問。批評者認為，這更像是將責任轉嫁給用戶，而非從技術根源解決問題。

值得注意的是，不同文化對「性暴力圖像」的定義可能存在差異。在亞洲某些地區，動漫和遊戲文化中的角色描繪標準與歐美不盡相同。這種文化差異可能會在全球AI監管框架的建立過程中產生摩擦。

中國大陸的AI監管相對嚴格，類似Grok的服務很難在當地合規運營。相比之下，其他華人地區可能需要在技術創新和社會責任之間尋找新的平衡點。