報告激增80倍!OpenAI揭示2025上半年AI平台安全警訊
OpenAI於2025上半年向NCMEC提交的兒童剝削事件通報量,較前一年同期激增80倍。本文深入探討此數據背後的原因,是犯罪增加還是偵測技術的躍進,以及AI平台面臨的艱鉅挑戰。
AI平台的安全警報響起。根據OpenAI的最新更新,其兒童剝削事件的通報量在2025年上半年竟比前一年同期暴增80倍,這個驚人的數字揭示了AI技術在快速發展下,潛藏的巨大風險與挑戰。
通報量為何激增80倍?
OpenAI指出,公司在2025年上半年向NCMEC(美國國家失蹤及被剝削兒童中心)提交的兒童剝削事件報告,是2024年同期的80倍。NCMEC旗下的CyberTipline是一個由國會授權的通報中心,專門處理兒童性虐待內容(CSAM)等相關案件。
根據美國法律,所有科技公司都有義務將其平台上發現的任何疑似兒童剝削內容,向CyberTipline進行通報。NCMEC在收到報告後會進行審查,再轉交給相關執法單位展開調查。
數字背後的兩種解讀
值得注意的是,通報量的增加,未必與犯罪活動的增加劃上等號。數據的變化,有時可能反映了平台自動審核機制的改變,或是決定是否通報的標準變得更加嚴格。換言之,這也可能代表平台的偵測能力已今非昔比,能更有效地揪出不法內容。
本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。
相关文章
紅杉資本參與Anthropic最新250億美元融資,估值衝上3500億。分析這家矽谷巨頭如何打破傳統,同時佈局OpenAI、xAI與Anthropic的背後動機。
馬斯克正式向 OpenAI 及微軟提起訴訟,要求高達 1340 億美元的賠償。指控兩家公司背棄非營利承諾,獲取不當利益。深入分析這場將重塑 AI 產業格局的法律大戰。
馬斯克正式向 OpenAI 與微軟索賠最高 1340 億美元,指控其背離非營利初衷。專家計算指出,這代表早期投資需獲得 3500 倍回報。這場涉及 5000 億估值與世界首富權利的法律爭端將於 4 月開審。
埃隆·馬斯克的AI公司xAI因其聊天機器人Grok生成非自願性色情深偽影像而面臨法律挑戰。原告為其子女之母,指控該工具造成嚴重精神損害,目前加州司法部已介入調查。