AI造假文件只需30秒——詐騙的「民主化」已經到來

一張假處方箋、一份假銀行轉帳確認、一張假駕照——製作這些，現在只需要輸入一行文字。

一位美國科技記者近日公開了一項令人不安的實驗：他使用OpenAI最新發布的圖像生成模型「ChatGPT Images 2.0」，在幾乎沒有專業知識的情況下，製作了超過100張偽造文件圖像，包括阿片類藥物處方箋、銀行異常交易警示、假護照、假身分證，以及偽裝成《紐約時報》和《大西洋》雜誌的假新聞截圖。這些圖像的逼真程度，足以欺騙不夠警覺的普通人。

突破口：AI終於學會「寫字」

過去的AI圖像生成模型有一個眾所周知的弱點：無法正確呈現圖像中的文字。街道招牌模糊、文件內容扭曲，一眼就能看出是AI產物。然而，ChatGPT Images 2.0幾乎克服了這個問題。

新模型能夠生成包含完整、清晰可讀文字的圖像。這對設計師來說是便利的工具，但對詐騙者而言，這是決定性的突破。醫療診斷書、疫苗接種證明、稅務表格、收據——這些文件的可信度，恰恰建立在文字的清晰可讀之上。實驗中，假的Chase Bank支票和電匯確認書輕鬆生成，視覺上幾乎無懈可擊。

OpenAI表示，公司的目標是「在執行使用政策的同時，給予用戶最大的創作自由」，並聲稱新模型內建多層安全保護。但這次實驗清楚顯示，這些保護機制並未有效運作。雖然生成圖像會嵌入元數據，但OpenAI自己也承認，這些元數據「可能因上傳社群媒體或截圖而輕易消失」。

不是政治醜聞，而是你身邊的詐騙

廣告

廣告合作

[email protected]

廣告

關於深度偽造的討論，過去往往聚焦在政治人物的假影片、假新聞等「宏觀威脅」。然而這次實驗揭示的危險，更貼近每個人的日常生活。

想像這樣一個場景：你的父母收到一封電郵，附有一張他們從未搭乘的Uber行程收據，並附上「如有疑問請點此回報」的連結。困惑的他們點下連結，個人資料就此落入詐騙者手中。這是經典的網路釣魚詐騙，而ChatGPT Images 2.0讓製作那張假收據變得幾乎零成本、零門檻。

FBI今年的年度報告首次新增了AI詐騙專章。去年，AI輔助詐騙在美國造成的損失已接近1億美元（約新台幣32億元）。認證詐欺審查師協會（ACFE）研究總監梅森·懷爾德直言：「這項技術的應用範疇，只受限於詐騙者的想像力。」

對於台灣、香港及東南亞華人社群而言，這個問題同樣迫切。台灣近年詐騙案件持續攀升，2024年詐騙損失超過新台幣88億元，且詐騙手法日益精密，結合語音、文字與圖像的複合式攻擊已成趨勢。AI圖像生成工具的普及，將使偽造「官方文件」、「銀行通知」、「法院傳票」等視覺詐騙素材的成本趨近於零。

在中國大陸，監管機構已針對AI生成內容（AIGC）制定專項法規，要求標註AI生成標識。然而，法規的存在與實際執行之間的落差，加上開源模型的廣泛流通，使得管制效果仍有相當大的不確定性。

守方為何總是慢一步？

Google的圖像生成工具同樣能製作詐騙素材，但Google提供的「SynthID」水印技術和檢測工具，在實驗中對自家模型生成的圖像顯示出一定的辨識效果。問題在於，沒有人會對日常收到的每一張圖像都進行檢測。

更根本的困境在於開源模型。即便OpenAI和Google大幅強化安全機制，全球已有大量不受商業公司管控的開源圖像生成模型廣泛流通。Chase Bank發言人呼籲「包括AI公司在內的整個生態系統共同努力」，但這種跨機構、跨國界的協作，在現實中推進的速度往往遠不及詐騙技術的演進。正如懷爾德所說：「善意的一方幾乎永遠落後一步。」