AIヌード生成アプリが700万回ダウンロード、AppleとGoogleの審査はなぜ機能しなかったのか

7億回。これはAppleとGoogleのアプリストアで配信されている「ヌーダイファイ」アプリの総ダウンロード数だ。これらのアプリは、普通の写真をAIで裸体画像に変換する機能を持つ。

監視団体Tech Transparency Project（TTP）の調査によると、Google Playに55個、Apple App Storeに47個のこうしたアプリが存在していることが判明した。これらのアプリは合計で117億円の収益を上げており、両社はその一部を手数料として受け取っている。

削除された28個、残る問題

CNBCとTTPからの指摘を受けて、Appleは月曜日に28個のアプリを削除したと発表した。しかし、TTPの再調査では実際に削除されたのは24個のみだった。削除されたアプリのうち2個は、開発者が修正版を再提出した後、ストアに復活している。

Googleも「ポリシー違反として複数のアプリを停止した」と述べたが、具体的な削除数は明かしていない。調査が継続中であることを理由としている。

TTPの調査手法は明確だった。「nudify」「undress」といったキーワードでアプリを検索し、実際にAI生成された女性の画像を使って機能をテストした。結果は衝撃的だった。これらは単なる「衣装変更」アプリではなく、明らかに非同意の性的画像生成を目的としたものだった。

中国発アプリが14個、データ流出の懸念

調査対象のうち14個のアプリが中国を拠点としていることも判明した。TTPのケイティ・ポール氏は、これが追加的なセキュリティリスクを生むと警告する。

「中国のデータ保持法により、中国政府は中国内のあらゆる企業のデータにアクセスする権利を持っています。つまり、誰かがあなたのディープフェイク裸体画像を作成した場合、それらが中国政府の手に渡る可能性があります」

この問題はイーロン・マスクのxAIが開発したGrokAIツールでも発生している。今月初め、Grokが女性や子供の性的画像生成要求に応答したことで批判を浴びた。欧州委員会は月曜日、性的に露骨なコンテンツの拡散についてX（旧Twitter）の調査を開始すると発表している。

審査システムの根本的欠陥

両社のポリシーは明確だ。Google Playは「人を裸にする、または服を透視すると主張するアプリ」を禁止している。Appleも「明らかに性的またはポルノ的な素材」を禁じている。

しかし、現実は異なる。これらのアプリは堂々と配信され、7億回ものダウンロードを記録している。8月には全米司法長官協会がApple PayやGoogle Payに対し、非同意の親密画像生成サービスをネットワークから削除するよう要請している。

民主党議員らは今月、大量の非同意性的画像生成がストアの配信規約に違反するとして、両社にXのアプリストアからの削除を求める書簡を送った。