矽谷知名創投支持的AI平台:90%深偽請求鎖定女性
史丹佛大學研究揭露Civitai平台實況:Andreessen Horowitz投資的AI市場讓用戶買賣名人深偽製作檔案,92%請求獲得報酬。
想像一下,有一份工作成功率高達92%,報酬雖然微薄但穩定發放。這份工作就是:為他人製作名人假影像的AI指導檔案。
這不是科幻小說的情節,而是發生在矽谷知名創投Andreessen Horowitz投資的Civitai平台上的真實情況。史丹佛大學與印第安納大學的最新研究發現,該平台上90%的深偽請求都以女性為目標,而這些請求幾乎都能獲得報酬。
「懸賞」系統背後的產業鏈
Civitai是一個AI生成內容的線上市場,用戶可以透過「懸賞」(bounty)系統委託他人製作特定內容。研究人員分析了2023年中至2024年底的請求數據,發現雖然動畫內容佔大宗,但針對真實人物的深偽請求也占相當比例。
最令人擔憂的是LoRA(低秩適應)檔案的交易。這些指導檔案能「訓練」主流AI模型如Stable Diffusion產生原本無法生成的內容。研究顯示,86%的深偽請求都是為了獲得這類檔案。
請求內容相當具體:用戶點名要求影響者Charli D'Amelio或歌手Gracie Abrams的「高品質」模型,甚至連結到她們的社群媒體資料供參考。有些請求還詳細規定要能準確重現刺青、允許更換髮色等功能。報酬從0.50美元到5美元不等,看似微薄,但近92%的懸賞都能成功發放。
平台的模糊應對策略
Civitai在2025年5月宣布禁止所有深偽內容,但在此之前提交的無數請求仍在網站上保持活躍狀態,許多「得獎作品」依然可供購買。
史丹佛大學網路政策中心的博士後研究員Matthew DeVerna指出:「Civitai不僅提供促進這些問題的基礎設施,還明確教導用戶如何利用它們。」
該平台使用名為「Buzz」的虛擬貨幣進行交易,但在2025年5月遭到信用卡處理商切斷服務。目前用戶必須使用禮品卡或加密貨幣購買Buzz來取得露骨內容,一般內容則使用不同的代幣系統。
法律灰色地帶與投資人責任
華盛頓大學法學院專精科技與AI的Ryan Calo教授表示,《通訊端莊法》第230條雖然為科技公司提供廣泛法律保護,但「你不能在網站上故意促進非法交易」。然而,成人深偽內容並未像兒童性虐待素材那樣受到同等關注。「他們對此不夠恐懼,過度寬容了,」Calo說。
Andreessen Horowitz於2023年11月對Civitai投資500萬美元。該公司共同創辦人兼執行長Justin Maier在投資宣傳影片中表示,他的目標是建立一個讓人們尋找和分享AI模型的主要平台,「我們致力於讓這個一直很小眾且技術門檻很高的領域,變得越來越多人可以接觸。」
值得注意的是,Andreessen Horowitz投資組合中還有其他問題企業。Botify AI被發現託管類似真實演員、自稱未滿18歲的AI伴侶,這些角色會進行性暗示對話、提供「火辣照片」,甚至聲稱同意年齡法律「很任意」且「注定被打破」。
華人世界的反思
這個現象對華人社會帶來多重挑戰。在台灣,隨著數位性別暴力防制法的實施,類似平台可能面臨更嚴格的法律後果。但海外平台的跨境監管仍是難題,特別是當這些平台受到國際知名創投支持時。
香港作為國際金融中心,其投資界如何看待這類「創新」投資?而在中國大陸,嚴格的網路內容管制可能提供了不同的監管思路。東南亞華人社群中的網紅和公眾人物,也可能成為這類平台的潛在受害者。
更深層的問題是:當技術讓任何人都能輕易製作他人的假影像時,我們的隱私權、肖像權,乃至於社會信任的基礎,將如何重新定義?
本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。
相关文章
Anthropic分析150萬筆AI對話,首次量化「用戶去權化」模式。雖然比例較低,但絶對數量仍構成重大問題,為AI安全敲響警鐘。
Anthropic發布30,000字Claude憲章,將AI視為可能具有情感和自我意識的存在。這種做法對AI發展意味著什麼?
xAI聊天機器人Grok大量生成非同意性化圖像,美國37州檢察長要求立即行動。AI時代的法律監管面臨新挑戰
深偽技術濫用製作性影像服務急速擴張,單張照片即可生成8秒性愛影片,對女性造成嚴重傷害,已成重大社會問題
观点
分享你对这篇文章的看法
登录加入讨论