「偽造パスポートを30秒で」――AIが詐欺の民主化を加速する

処方箋、運転免許証、銀行の振込確認書――これらすべてを、30秒もあれば作れる時代が来た。

米国のテクノロジージャーナリストが先日、OpenAIの新しい画像生成モデル「ChatGPT Images 2.0」を使った実験を公開し、世界に衝撃を与えました。彼が作成した偽造画像は100点以上。麻薬性鎮痛剤の処方箋、銀行の異常取引アラート、偽のパスポート、さらには実在する大手メディアの「フェイク記事スクリーンショット」まで、いずれも一見しただけでは本物と見分けがつかないほどの精度でした。

何が変わったのか――「文字が読める」という突破口

これまでのAI画像生成モデルには、致命的な弱点がありました。画像の中に含まれる「文字」がうまく再現できなかったのです。街頭の看板がぼやけ、書類の文字が歪み、一目でAI生成とわかってしまう。その弱点が、ChatGPT Images 2.0でほぼ克服されました。

新モデルは、完全に判読可能なテキストを含む画像を生成できます。これはグラフィックデザインの観点では便利な進化ですが、詐欺の観点ではゲームチェンジャーです。偽の医師の診断書、ワクチン接種証明書、税務書類、領収書――これらはすべて「文字が正確に読める」ことで初めて本物らしく見えます。実験では、偽のChase Bank小切手や電信送金確認書も難なく生成されました。

OpenAIは「クリエイティブな自由を最大限に提供しながら、利用規約を執行する」と説明し、複数の安全対策が組み込まれていると述べています。しかし今回の実験は、そうした保護機能が十分に機能していないことを示しています。また、生成画像にはメタデータが埋め込まれているものの、OpenAI自身が「SNSへのアップロードやスクリーンショット撮影で簡単に除去できる」と認めています。

「大きな詐欺」より怖い「小さな詐欺」

広告

広告掲載について

[email protected]

広告

ディープフェイクをめぐる議論は、これまで政治的スキャンダルや世論操作といった「大きな脅威」に集中しがちでした。しかし今回の実験が示す本当の危険は、もっと身近なところにあります。

例えば、こんなシナリオを考えてみてください。あなたの高齢の親御さんに、見覚えのないUberの領収書を示すメールが届きます。「不審な利用があった場合はこちら」というリンクも添えられています。困惑した親御さんがリンクをクリックすれば、個人情報が詐欺師の手に渡る――これは典型的なフィッシング詐欺ですが、ChatGPT Images 2.0があれば、偽の領収書を作るのに専門知識も費用もほとんどかかりません。

FBIが今年発表した年次報告書には、初めてAI詐欺に関する専門セクションが設けられました。AIを使った詐欺による被害額は昨年だけで約1億3,000万ドル（約190億円）に達しています。経費精算詐欺――従業員が偽の領収書を提出して会社に架空の費用を請求する手口――もすでに増加傾向にあります。認定不正検査士協会（ACFE）の調査研究部長、マソン・ワイルダー氏はこう語ります。「この技術の応用範囲は、詐欺師の想像力によってのみ制限される」

日本においても、この問題は対岸の火事ではありません。国内では特殊詐欺（いわゆる「オレオレ詐欺」）が長年社会問題となっており、2024年の被害総額は約1,000億円超に上ります。これまでの特殊詐欺は主に音声を使ったものでしたが、AI画像生成の進化により、「孫の写真」「警察の公文書」「銀行の通知書」を偽造した視覚的詐欺が組み合わさる可能性が高まっています。高齢者が多く、デジタルリテラシーの格差が大きい日本社会では、特に注意が必要です。

「善意の遅れ」――守る側はなぜ常に後手に回るのか

Googleも同様の画像生成ツールを提供しており、やはり詐欺的な画像を作成できることが確認されています。Googleは「SynthID」という透かし技術と検出ツールを提供しており、実験ではGoogleモデルが生成した画像の検出に一定の効果を示しました。しかし、日常生活で受け取るすべての画像をそのツールで検証する人はほとんどいないでしょう。

問題をさらに複雑にするのが、オープンソースモデルの存在です。仮にOpenAIやGoogleが安全対策を大幅に強化したとしても、規制の届かないオープンソースの画像生成モデルは世界中に普及しています。ワイルダー氏が言うように、「善意の側はほぼ常に一歩遅れている」のが現実です。

Chase Bankの広報担当者は「AI企業を含むエコシステム全体での取り組みが必要だ」と述べました。日本でも、金融機関・医療機関・行政機関が協力して対策を講じる必要がありますが、縦割り構造が根強い日本の組織文化において、そうした横断的な連携がどれだけ迅速に実現できるかは未知数です。