実在女性のディープフェイク売買市場、AIの闇が露呈

アンドリーセン・ホロウィッツ出資のCivitaiで実在女性のディープフェイク注文が横行。90%が女性標的、技術悪用の実態とは

90%。これは、AI生成コンテンツ市場Civitaiで実在の人物のディープフェイク制作依頼のうち、女性を標的としたものの割合だ。

スタンフォード大学とインディアナ大学の研究チームが、2023年半ばから2024年末までCivitaiの「バウンティ」（制作依頼）を分析した結果、衝撃的な実態が明らかになった。

ベンチャーキャピタルが支える闇市場

Civitaiは、著名ベンチャーキャピタルアンドリーセン・ホロウィッツの出資を受けるAI生成コンテンツの売買プラットフォームだ。表向きはクリエイティブなAIアートの共有を謳いながら、実際には有名人のディープフェイク制作指示ファイルが取引されている。

研究によると、依頼の大部分はアニメーションコンテンツだったが、実在の人物のディープフェイク依頼も相当数存在した。そしてその90%が女性を標的としており、多くがサイトで禁止されているポルノグラフィック画像の生成を目的としていた。

日本の芸能界やエンターテインメント業界にとって、この問題は他人事ではない。ソニーや任天堂といった日本企業のキャラクターやタレントも、こうした技術悪用の標的となる可能性がある。

特に日本は、アニメやゲームキャラクターの著作権保護に厳格な姿勢を取ってきた。しかし、AI技術の進歩により、従来の法的枠組みでは対応しきれない新たな脅威が生まれている。

興味深いのは、この問題が単純な「悪者」の話ではないことだ。Civitai自体はポルノグラフィックコンテンツを禁止しており、アンドリーセン・ホロウィッツも責任あるAI投資を標榜している。

しかし、技術の性質上、プラットフォームが完全に制御することは困難だ。ユーザーは巧妙な方法で規制を回避し、禁止されたコンテンツを生成する手法を共有している。

日本では、個人のプライバシーと名誉を重視する文化的背景から、こうした技術悪用に対する社会的反発は強いと予想される。一方で、表現の自由や技術革新とのバランスをどう取るかという課題も浮上する。

高齢化が進む日本社会では、デジタル技術に不慣れな世代が被害を受けやすい可能性もある。家族や友人の画像が悪用される危険性について、幅広い世代への啓発が急務だ。