AI能識別兒童嗎？年齡驗證成新戰場

當1800萬名美國兒童面臨AI聊天機器人帶來的潛在風險時，一個看似簡單的問題變得異常複雜：科技公司如何確認用戶是否為兒童？

近期多起因與AI聊天機器人對話而導致的自殺和自傷訴訟，讓這個問題變得更加緊迫。美國正在經歷一場關於年齡驗證的激烈辯論，而這場爭論的結果可能重塑全球科技產業的遊戲規則。

OpenAI的技術賭注

OpenAI上週宣布將推出自動年齡預測系統，透過分析對話時間等因素來判斷用戶是否未滿18歲。被識別為兒童或青少年的用戶，ChatGPT會套用過濾器來「減少接觸」暴力或性角色扮演等內容。YouTube去年也推出了類似系統。

這聽起來像是隱私保護與年齡驗證的完美平衡，但現實並非如此簡單。系統並非完美，可能將兒童錯誤分類為成人，或相反。被錯誤標記為18歲以下的用戶需要向Persona公司提交自拍照或政府身分證件來驗證身分。

隱私與安全的兩難

網路霸凌研究中心共同主任薩米爾·辛杜賈指出了這套系統的弱點：「Persona需要保存數百萬份政府身分證件和大量生物識別資料。一旦這些資料遭到洩露，將同時暴露大量人口的隱私。」

自拍驗證也存在問題：對有色人種和特定殘疾人士的失敗率更高。辛杜賈建議採用設備層級驗證，由家長在首次設定孩子手機時指定年齡，資訊保存在設備上並安全地與應用程式和網站共享。

責任推卸戰

蘋果執行長庫克最近向美國國會議員遊說，呼籲採用設備層級驗證。這是為了對抗要求應用程式商店驗證年齡的法案，避免讓蘋果承擔過多法律責任。

辯論已從「是否需要年齡驗證」轉向「誰來負責」。這項責任成了沒有公司願意接手的燙手山芋。共和黨支持的州法要求成人內容網站驗證年齡，但批評者警告這可能被用來封鎖包括性教育在內的更廣泛內容。

政治化的監管環境

週三，聯邦貿易委員會（FTC）將舉辦全天年齡驗證研討會。蘋果政府事務主管尼克·羅西將出席，同時參與的還有Google和Meta的兒童安全高層，以及專門從事兒童行銷的公司代表。

在川普政府下，FTC變得更加政治化。去年12月，FTC推翻了拜登時期對一家AI公司的裁決，該公司曾允許用戶在網路上大量發布虛假產品評論。

華人科技企業的挑戰

這場美國的年齡驗證之戰對華人科技企業意義重大。TikTok在美國面臨的監管壓力、台灣的聯發科為智慧型手機提供晶片、香港的科技新創企業開發AI應用程式——所有這些都可能受到新規定的影響。

與中國大陸的情況形成對比，美國的辯論更多聚焦於隱私權與安全之間的平衡，而非政府監管的範圍。對於在美國市場營運的華人企業來說，理解這種差異至關重要。

台灣的半導體產業可能面臨新的合規要求，因為年齡驗證技術需要更強大的處理能力和安全晶片。東南亞的華人科技公司也需要考慮如何在不同監管環境中保持競爭力。

技術與倫理的交鋒

AI生成兒童性虐待素材的增加、聊天機器人對話後的自殺和自傷擔憂、兒童對AI伴侶形成依戀的問題——這些都讓兒童安全議題變得更加複雜。隱私、政治、言論自由和監控的衝突立場，讓任何解決方案都面臨重重困難。