AIディープフェイク市場の裏側：有名投資会社が支援するプラットフォームの実態

92%の確率で報酬が支払われる「仕事」があります。それは有名人の偽画像を作るためのAI指示ファイルを作成することです。

シリコンバレーの著名投資会社アンドリーセン・ホロウィッツが出資するCivitaiというプラットフォームで、ユーザーは実在の人物のディープフェイクを作成するためのAIモデルを売買しています。スタンフォード大学とインディアナ大学の最新研究によると、これらのディープフェイク依頼の90%が女性を標的としていることが判明しました。

「バウンティ」という名の依頼システム

Civitaiでは「バウンティ」と呼ばれる依頼システムを通じて、ユーザーが特定のAIコンテンツの作成を依頼できます。研究者たちが2023年半ばから2024年末までの依頼を分析したところ、アニメーション系のコンテンツが多数を占める中、実在の人物のディープフェイク依頼も相当数存在していました。

特に問題となっているのは、LoRA（Low-Rank Adaptation）と呼ばれる指示ファイルの取引です。これらのファイルはStable Diffusionのような主流AIモデルに、本来は生成できないコンテンツを作らせる「コーチング」を行います。ディープフェイク依頼の86%がこのLoRAファイルを求めていました。

依頼内容は具体的で、インフルエンサーのチャーリー・ダミリオや歌手のグレイシー・エイブラムスなど実名を挙げ、「高品質」なモデルを要求。タトゥーの正確な再現や髪色の変更機能まで指定する例もありました。報酬は0.50ドルから5ドルと少額ですが、依頼の92%近くで支払いが実行されています。

プラットフォームの曖昧な対応

Civitaiは2025年5月にすべてのディープフェイクコンテンツを禁止すると発表しましたが、禁止前に投稿された無数の依頼は現在もサイト上に残り、多くの「落札作品」が購入可能な状態です。

広告

広告掲載について

[email protected]

広告

スタンフォード大学サイバー政策センターの研究員マシュー・デベルナ氏は「Civitaiはこれらの問題を促進するインフラを提供するだけでなく、ユーザーにその活用方法まで明示的に教えています」と指摘します。

同プラットフォームは独自通貨「Buzz」でLoRAファイルを販売していますが、2025年5月にクレジットカード決済会社から取引停止を受けました。現在、露骨なコンテンツの購入にはギフトカードや暗号通貨が必要となっています。

法的グレーゾーンと投資家の責任

ワシントン大学法学部のライアン・カロ教授は「企業は自社サイトで違法取引を故意に促進することはできません」と述べ、通信品位法第230条の保護にも限界があることを指摘します。しかし、成人のディープフェイクは児童性的虐待素材ほど注目されていません。「彼らはそれを十分に恐れていない。過度に寛容です」とカロ氏は批判します。

アンドリーセン・ホロウィッツは2023年11月にCivitaiへ500万ドルを投資しました。同社CEOのジャスティン・マイヤー氏は投資発表動画で「ニッチで技術的だったこの分野を、より多くの人にとってアプローチしやすくする」と語っていました。

興味深いことに、同投資会社のポートフォリオには他にも問題のある企業があります。Botify AIでは18歳未満と称する実在俳優に似たAIコンパニオンがホストされ、性的な会話や「ホットな写真」を提供していたことが報告されています。

日本への波及効果

日本では肖像権や名誉毀損に関する法整備が進んでいますが、海外プラットフォームでの日本人有名人のディープフェイク作成は規制が困難です。ソニーや任天堂など日本のエンターテインメント企業は、自社タレントやキャラクターの不正使用にどう対応するのでしょうか。

日本政府は2024年からAI規制の議論を本格化させていますが、国境を越えたプラットフォームの監督は複雑な課題です。特に、技術的に高度な手法で作成されるディープフェイクの検出と対策は、日本の技術力を試す試金石となるかもしれません。