数億円を稼ぐディープフェイク：AIアプリ「Haotian」は如何にしてサイバー犯罪の「信頼」を産業化したか

もはやSFではない：サイバー犯罪の「信頼」を商品化するAI

AIによる顔交換アプリ「Haotian」が、数億円規模の収益を上げているというニュースは、単なる技術の進歩を報じるものではありません。これは、生成AIがサイバー犯罪のエコシステムに深く組み込まれ、「信頼」そのものが商品として取引される新時代の到来を告げる、極めて重要なシグナルです。PRISMは、この現象がなぜ現代社会にとって看過できない脅威であるかを深掘りします。

この記事の要点

• 「Deepfake-as-a-Service」の確立：Haotianは、高度な顔交換技術を月額課金で提供し、数億円もの収益を上げています。これは、ディープフェイク技術がニッチなツールから、収益性の高いビジネスモデルへと進化したことを示しています。
• 「豚の屠殺詐欺」の高度化：このアプリは、東南アジアを拠点とする大規模詐欺、通称「豚の屠殺（pig butchering）」詐欺グループに積極的に販売されています。リアルタイムのビデオ通話で被害者を騙すことで、詐欺の成功率を劇的に向上させています。
• 犯罪インフラとしてのAI：Haotianは単なるアプリではなく、Telegramでのマーケティング、暗号資産による決済など、サイバー犯罪のための完全なエコシステムを形成しています。これは、AI開発者が犯罪市場をターゲットにし始めている危険な傾向です。
• 「見ることは信じること」の終焉：ディープフェイク技術の普及は、ビデオ通話という、これまで最も信頼性の高いとされてきたコミュニケーション手段の価値を根本から揺るがしています。

詳細解説：詐欺を加速させる「ScamTech」エコシステム

Haotianとは何か？

Haotianは、2021年頃に登場した中国語のAI顔交換デスクトップアプリです。その最大の特徴は、WhatsAppやWeChatなどのメッセージングアプリとシームレスに連携し、リアルタイムでビデオ通話の顔を別人に入れ替えられる点にあります。頬骨の大きさや目の位置など、最大50項目もの微調整が可能で、専門家が「ほぼ完璧」と評するほどの精度を誇ります。これにより、詐欺師は盗んだプロフィール写真の人物になりすまし、ビデオ通話を通じて被害者と長期的な信頼関係を築くことが可能になりました。

「信頼」をハックする詐欺手口

「豚の屠殺詐欺」は、恋愛感情や友情を装って長期間にわたり被害者との関係を築き、最終的に偽の投資話などで大金を騙し取る手口です。従来、この種の詐欺の最大の障壁は「ビデオ通話」でした。しかし、Haotianのようなツールは、この最後の砦をいとも簡単に突破します。被害者は、愛する人や信頼する友人とビデオ通話していると信じ込み、疑うことなく資産を差し出してしまうのです。これは、テクノロジーを利用した究極の心理操作と言えます。

今後の展望：テクノロジーと社会の終わらない軍拡競争

Haotianは氷山の一角に過ぎません。今後、ディープフェイク技術はさらに安価で高性能になり、顔だけでなく声色や話し方まで完全に模倣できるようになるでしょう。これにより、金融詐欺にとどまらず、企業幹部になりすました産業スパイ活動、政治家を騙った世論操作など、その脅威は社会のあらゆる側面に拡散します。

私たちは、生成AIがもたらす「真実の価値が揺らぐ時代」に突入しました。この課題に対処するには、検知技術の開発という「技術的な軍拡競争」と同時に、デジタルリテラシー教育の抜本的な見直しや、「疑うこと」を前提とした新たな社会的コミュニケーション規範の構築が不可欠となるでしょう。「見ることは信じること」という常識が過去のものとなった今、私たちはテクノロジーとの新たな向き合い方を早急に模索しなければなりません。