警鐘敲響：OpenAI兒童剝削內容報告年增80倍，揭示AI安全隱憂

OpenAI於2025上半年向NCMEC提交的兒童剝削報告數量較去年同期暴增80倍。本文深入分析此現象背後的原因、生成式AI面臨的廣泛挑戰，以及OpenAI採取的應對措施。

根據OpenAI最新公布的數據，該公司在2025年上半年向美國「國家失蹤與受虐兒童中心（NCMEC）」提交的兒童剝削事件報告數量，與2024年同期相比，激增了近80倍。此一驚人增長，凸顯了生成式AI平台在快速發展的同時，所面臨的嚴峻安全挑戰。

依法規定，科技公司有義務向NCMEC的「網路通報熱線（CyberTipline）」報告在其平台上發現的疑似兒童性虐待材料（CSAM）。NCMEC在審查報告後，會將其轉交給相應的執法機構進行調查。

OpenAI發言人Gaby Raila在一份聲明中解釋，報告數量增加主要有三大原因：首先，公司在2024年底進行了投資，以「提升審查和處理報告的能力，應對當前和未來的用戶增長」；其次，產品增加了更多允許用戶上傳圖片的介面；最後，其產品的受歡迎程度日益增長，也導致了報告的增加。

值得注意的是，報告數量的增加，未必等同於平台上非法活動的增加。這也可能反映了平台自動偵測與審核機制的改進，使其能更有效地識別和標記潛在的有害內容。

此趨勢並非OpenAI獨有。NCMEC的整體數據顯示，涉及生成式AI的網路通報在2023年至2024年間增長了`1,325%`，表明這是整個AI行業面臨的共同挑戰。

隨著問題浮現，來自監管機構和社會的壓力也隨之而來。2025年夏天，全美44名州檢察長聯名致信OpenAI、Google等多家AI公司，警告將「動用一切權力保護兒童免受掠奪性AI產品的剝削」。此外，OpenAI亦面臨多起訴訟，指控其聊天機器人產品與兒童死亡事件有關。

為應對挑戰，OpenAI已陸續推出多項安全措施。2025年9月，ChatGPT推出家長控制功能，允許家長管理青少年的帳戶設定。同年11月，公司發布了《青少年安全藍圖》，承諾持續提升對CSAM的偵測能力，並向NCMEC等主管機關通報已確認的案例。

関連記事