AI換臉歪風再起：用戶濫用Gemini、ChatGPT生成女性不雅照
用戶正濫用Google Gemini與OpenAI ChatGPT等AI工具，將女性照片惡意製成不雅的比基尼深偽圖像。本文深入探討Reddit上的具體案例、科技巨頭的回應以及AI倫理面臨的嚴峻挑戰。
根據科技媒體WIRED報導，部分熱門聊天機器人的使用者正利用生成式AI工具，將穿著正常衣物的女性照片，擅自轉換為比基尼泳裝的深偽技術（deepfake）圖像。這些行為多數未經當事人同意，甚至有用戶在網路上公開傳授如何規避安全機制的技巧。
Reddit論壇淪為犯罪溫床
在Reddit一個現已刪除、名為「gemini nsfw image generation is so easy」的貼文中，用戶交流如何讓Google的Gemini模型生成裸露圖片。其中一則請求尤為引人注目：一名用戶發布了一張穿著印度紗麗的女性照片，要求他人「移除」衣物並「換上比基尼」。隨後，另一名用戶便回覆了一張滿足該要求的深偽圖像。
經WIRED通報後，Reddit安全團隊移除了相關內容。Reddit發言人表示：「Reddit的全站規則禁止未經同意的私密媒體，包括此類行為。」據悉，該討論所在的子版面「r/ChatGPTJailbreak」在被封禁前，追蹤者已超過20萬人。
科技巨頭的回應與挑戰
報導指出，WIRED透過簡單的英文提示詞進行測試，成功在Gemini和ChatGPT上將正常照片轉換為比基尼深偽圖片。對此，Google發言人稱公司有「明確政策禁止使用其AI工具生成色情內容」，並持續改善工具以反映政策。OpenAI的發言人則回應，今年雖放寬了部分關於「非性情境下成人身體」的護欄，但其使用政策明確禁止未經同意修改他人肖像，並會對違規用戶採取封鎖帳號等措施。
電子前哨基金會（EFF）的法律總監Corynne McSherry認為，「濫用性的色情化圖像」是AI圖像生成器的核心風險之一。她強調，追究造成潛在傷害的個人與企業的責任至關重要。
這場事件凸顯了科技公司在AI濫用問題上的困境。儘管有使用政策和安全護欄，但用戶總能找到漏洞，形成一場「貓鼠遊戲」。這暴露出單靠事後封鎖與政策宣示的被動防禦模式已瀕臨極限，未來或需從模型架構的根本設計上思考更主動的倫理約束機制。
This content is AI-generated based on source articles. While we strive for accuracy, errors may occur. We recommend verifying with the original source.
Related Articles
Mainstream AI chatbots like Google's Gemini and OpenAI's ChatGPT are being used to create nonconsensual bikini deepfakes of women with simple prompts, bypassing safety features and raising urgent questions about AI ethics and corporate responsibility.
When an OpenAI researcher claimed GPT-5 solved 10 unsolved math problems, Google DeepMind's CEO called it 'embarrassing.' Here's the real story behind the AI hype and what it means for actual progress.
OpenAI has launched 'Your Year with ChatGPT,' a personalized Spotify Wrapped-style summary of your AI activity. Here's how to check your stats, awards, and more.
OpenAI concedes that prompt injection, a core AI security flaw, is 'unlikely to ever be fully solved.' We analyze their new defense—an AI-powered attacker—and the expert consensus on the risks of agentic AI.