微軟推出「真實驗證」標準：能否終結AI造假亂象？

當白宮官員分享經AI修改的抗議者照片，當俄羅斯影響力活動用假影片勸阻烏克蘭人參軍，AI造假已悄然滲透我們的數位生活。面對這場真假難辨的混戰，微軟提出了一套「數位真實驗證」藍圖。

但這套技術標準真能解決問題，還是只是另一場科技樂觀主義的實驗？

像驗證林布蘭畫作一樣驗證數位內容

想像你有一幅林布蘭畫作，要如何證明它的真實性？你可能會記錄它的來源履歷，標註每次轉手的詳細資訊；加上人眼看不見但機器可讀的浮水印；掃描畫作並基於筆觸生成數學指紋。當畫作在博物館展出時，懷疑的參觀者就能檢視這些證據來驗證真偽。

微軟的AI安全研究團隊正是將這套邏輯應用到數位內容上。他們評估了60種不同的技術組合，模擬各種失效情境——從元數據被剝除到內容被輕微修改或刻意操控，然後找出哪些組合能產生可靠結果，哪些反而會造成更多混亂。

微軟首席科學官Eric Horvitz表示，這項工作源於法規壓力，如加州將於8月生效的AI透明法案，以及AI技術在影音合成方面的驚人進展。「你可以稱之為自律，」他說，「但我們也希望成為那些想了解世界真相的人的首選供應商。」

技術標準vs商業現實的角力

然而，Horvitz拒絕承諾微軟會在自家平台全面採用這套建議。這點耐人尋味——微軟坐擁龐大的AI內容生態系統：運營Copilot生成圖文、透過Azure雲服務提供OpenAI等模型、擁有LinkedIn專業平台，並持有OpenAI重要股份。

當被問及內部實施計畫時，Horvitz僅表示：「公司各產品團隊都參與了這項研究，工程團隊正在根據報告採取行動。」這種模糊回應暴露了一個關鍵問題：即使是提出標準的公司，也未必願意完全遵循。

加州大學柏克萊分校數位鑑識專家Hany Farid認為，如果業界採用微軟的藍圖，確實能大幅提高用假內容欺騙公眾的難度。「我不認為它能解決所有問題，但能解決相當大一部分。」

人性弱點：知假仍信的困境

但技術解決方案面臨一個根本挑戰：越來越多證據顯示，即使人們知道內容是AI生成的，仍會被其影響。在最近一項關於親俄AI生成烏克蘭戰爭影片的研究中，指出影片是AI製作的評論，獲得的互動遠少於將其視為真實的評論。

「無論你告訴他們什麼，有些人就是會相信他們想相信的，」Farid坦言，「但大多數美國人和世界公民確實想知道真相。」

問題是，這種渴望並未促使科技公司採取緊急行動。Google從2023年開始為AI工具生成的內容添加浮水印，但完整的驗證套件可能因威脅到AI公司或社群平台的商業模式而僅止於建議。

「如果Mark Zuckerberg和Elon Musk認為標註『AI生成』會降低互動率，他們當然沒有動機這麼做，」Farid指出。去年Indicator的審計發現，在Instagram、LinkedIn、Pinterest、TikTok和YouTube的測試貼文中，只有30%被正確標註為AI生成。

全球法規推動與政治阻力

更強制性的內容驗證措施可能來自全球各地的AI法規。歐盟AI法案以及印度等地的提案，都將要求AI公司必須某種形式揭露內容是由AI生成。

微軟自然希望在制定這些規則中發揮作用。公司在加州AI透明法案起草期間進行了遊說，Horvitz表示這讓法案對科技公司揭露AI生成內容的要求「更加現實」。

但研究人員也擔心，如果內容驗證技術推出不當，可能適得其反。如果標籤系統倉促推出、應用不一致或經常出錯，人們可能完全不信任它們。這就是為什麼研究人員認為，在某些情況下，什麼都不顯示可能比顯示錯誤判斷更好。

不完善的工具還可能創造新的「社會技術攻擊」途徑。想像有人拿一張真實的政治事件照片，用AI工具只改變微不足道的像素。當它在網上傳播時，可能被平台誤導性地歸類為AI操控。但結合來源追蹤和浮水印工具，平台就能澄清內容只是部分AI生成，並指出修改之處。

川普政府的挑戰

加州AI透明法案將是美國首次重大測試，但執行可能面臨川普政府的挑戰。川普去年底的行政命令尋求限制對產業「繁重」的州AI法規。政府也普遍反對遏制假訊息的努力，並透過DOGE取消了相關撥款。諷刺的是，川普政府官方管道本身就分享過AI操控的內容。

當我問Horvitz是否擔心來自政府的假內容時，他最初拒絕評論，然後說：「政府並非置身於各種操控性假訊息的部門之外，這是全球性現象。」