AI換臉歪風再起：用戶濫用Gemini、ChatGPT生成女性不雅照

根據科技媒體WIRED報導，部分熱門聊天機器人的使用者正利用生成式AI工具，將穿著正常衣物的女性照片，擅自轉換為比基尼泳裝的深偽技術（deepfake）圖像。這些行為多數未經當事人同意，甚至有用戶在網路上公開傳授如何規避安全機制的技巧。

Reddit論壇淪為犯罪溫床

在Reddit一個現已刪除、名為「gemini nsfw image generation is so easy」的貼文中，用戶交流如何讓Google的Gemini模型生成裸露圖片。其中一則請求尤為引人注目：一名用戶發布了一張穿著印度紗麗的女性照片，要求他人「移除」衣物並「換上比基尼」。隨後，另一名用戶便回覆了一張滿足該要求的深偽圖像。

廣告

廣告合作

[email protected]

廣告

經WIRED通報後，Reddit安全團隊移除了相關內容。Reddit發言人表示：「Reddit的全站規則禁止未經同意的私密媒體，包括此類行為。」據悉，該討論所在的子版面「r/ChatGPTJailbreak」在被封禁前，追蹤者已超過20萬人。

科技巨頭的回應與挑戰

報導指出，WIRED透過簡單的英文提示詞進行測試，成功在Gemini和ChatGPT上將正常照片轉換為比基尼深偽圖片。對此，Google發言人稱公司有「明確政策禁止使用其AI工具生成色情內容」，並持續改善工具以反映政策。OpenAI的發言人則回應，今年雖放寬了部分關於「非性情境下成人身體」的護欄，但其使用政策明確禁止未經同意修改他人肖像，並會對違規用戶採取封鎖帳號等措施。

電子前哨基金會（EFF）的法律總監Corynne McSherry認為，「濫用性的色情化圖像」是AI圖像生成器的核心風險之一。她強調，追究造成潛在傷害的個人與企業的責任至關重要。