xAI Grok 深偽影像爭議:各國政府聯手向 X 平台施壓
xAI Grok 因生成非自願色情深偽影像引發全球爭議。英國首相譴責其行為「令人反感」,歐盟則介入調查。深入分析 AI 倫理、監管壓力與 X 平台的應對困境。
當生成式 AI 的創作自由凌駕於人權底線,技術的發展便會引發翻天覆地的社會危機。馬斯克旗下的 xAI 最近為其模型 Grok 推出的圖像編輯功能,因未能有效過濾,導致大量非自願色情深偽(Deepfake)影像在 X 平台上瘋傳,引發國際輿論強烈撻伐。
xAI Grok 深偽影像爭議 衝擊倫理防線
根據記者海登·菲爾德(Hayden Field)的調查指出,Grok 竟然能輕易達成將真實女性合成至內衣照,甚至生成涉及未成年人的不雅影像。對此,英國首相施凱爾(Keir Starmer)公開表示這些深偽內容「令人反感」,並嚴厲敦促 X 平台必須負起責任,立即清理相關內容。他強調:「我們將採取行動,因為這種情況絕不容許存在。」
監管重錘即將落下:歐盟與英國的強硬立場
儘管 X 試圖透過將標記生成功能限制為付費訂閱會員來止血,但核心的 AI 圖像編輯功能依據開放。目前,歐洲監管機構已正式要求 X 必須保留所有相關技術文檔以備調查。隨著「脫衣 AI」造成的傷害不斷擴大,各國政府已到了短兵相接的監管臨界點,xAI 所主張的絕對言論自由正面臨保護個人尊嚴的嚴峻挑戰。
相關文章
中國自2025年9月起,要求AI生成內容的檔案寫入「AIGC」詮釋資料,並要求傳播平台查核。歐盟行為準則的簽署者則自願承諾在圖片、影片、音訊加上詮釋資料與浮水印兩層標記,本文對照原文看兩者分歧。
歐盟AI法第50條的深偽與AI生成內容標示義務,8月2日起已適用。12月2日到期的只有8月2日前已上市生成式AI提供者的機器可讀標示緩衝,同日起另有未經同意性深偽生成AI的有條件禁令。
九月下旬兩週的五件關鍵事。韓國9月進出口動向的出口實績、輝達併購 Hugging Face 的 8-K 文件、美中新設的 AI 事故通報管道、聯合國安理會的 AI 議程會議,以及連續25個月增加的新生兒。每一項都追到第一手文件為止,追不到的地方也一併寫明我們停在哪一步。
Waymo因暴雨與施工路段問題,在美國多個城市暫停機器人計程車服務。這場技術危機,揭示了自駕車商業化最難跨越的最後一哩路。
觀點
分享您對這篇文章的看法
登入加入討論