AIが戦場を塗り替える——イラン紛争で露わになったフェイク情報の新局面

500万回。イランの治安部隊に拘束されたデルタフォース隊員を描いたAI生成画像が、削除されるまでに記録した閲覧数だ。その画像は偽物だった。しかし、それを見た人のほとんどは気づかなかった。

「AIスロップ」が戦場を覆う

今年2月28日、米国とイスラエルがイランへの攻撃を開始して以来、X（旧Twitter）のタイムラインは急速に変容した。フェイク動画、使い回しの映像、そして精巧なAI生成コンテンツが怒濤のように流れ込み、現実と虚構の境界線を溶かしていった。

ディスインフォメーション研究者のタル・ハギン氏は、イラン国営メディアがXに投稿した「テルアビブへのミサイル着弾映像」の検証をAIチャットボットGrokに依頼した。結果は惨憺たるものだった。Grokは場所と日付を繰り返し誤認識し、挙げ句の果てにAI生成画像を「証拠」として提示した。「今やGrokは破壊のAIスロップを返してくる」とハギン氏はXに書き込んだ。「もう終わりだ」。

Grokはイーロン・マスク氏が率いるxAIが開発したチャットボットで、Xのプラットフォームに深く統合されている。その設計思想には「リアルタイムの情報にアクセスできる」という強みが謳われているが、今回の事例はその強みが諸刃の剣であることを示した。リアルタイムで流れ込む偽情報を、リアルタイムで増幅してしまうのだ。

数字が語る情報汚染の深刻さ

今回の紛争で拡散したAI生成コンテンツの規模は、これまでの事例と一線を画している。

3月2日、イラン当局と国営メディアはバーレーンの高層ビルが炎上するAI生成動画を拡散した。米軍B-2爆撃機がイランに撃墜され、米兵が拘束される場面を描いた画像は100万回以上閲覧された後に削除。前述のデルタフォース拘束画像は500万回超の閲覧を記録した。さらに、若い女性たちがトランプ大統領の前を下着姿で歩くフェイク動画は、削除前に680万回以上再生されたと、研究機関ISD（戦略対話研究所）は報告している。

広告

広告掲載について

[email protected]

広告

これらの数字が意味するのは単なる「拡散」ではない。削除後も他のアカウントによって再共有が続いているという事実が、プラットフォーム側の対策の限界を如実に示している。

非AIのディスインフォメーションも同様に深刻だ。2月28日、イラン南部ミナブの小学校への攻撃で168人（うち子ども110人）が死亡した。この事件をめぐり、親トランプ系アカウントは「イラン政府が発射したミサイルが学校を直撃した」という言説を広めるため、他の映像を流用した。しかし、イランの通信社が公開しニューヨーク・タイムズが検証した映像は、学校に隣接する海軍基地にトマホーク巡航ミサイルが命中する様子を映していた。トマホークを使用しているのは、この紛争においてアメリカのみだ。

プラットフォームの対応——後手に回る構造

Xは先週、AIが生成した武力衝突の動画にラベルを付けずに投稿したブルーチェックマーク（有料認証）アカウントを一時的に収益化停止にする措置を発表した。しかし、何件のアカウントが実際に対象となったかについて、同社はコメントを拒否している。

皮肉なことに、フェイク情報を拡散していたイラン当局者の一部が、Xのプレミアムサービスに課金し、青いチェックマークを得ていたことも判明している。プラットフォームの収益モデルが、情報操作の道具として機能していた構図だ。

Metaの状況も楽観視できない。3月4日、Metaの監視委員会（Oversight Board）は、同社のAI生成コンテンツへのラベリングアプローチが「危機や紛争時のAI生成偽情報の規模とスピードに対応するには、堅牢でも包括的でもない」と批判した。Metaはこの指摘を「歓迎する」とコメントしたが、具体的な改善策は示していない。

「ファクトに基づく世界の崩壊」——研究者たちの警告

ハギン氏は言う。「この戦争で特に際立っているのは、私が検証しなければならないAI生成コンテンツの劇的な増加だ。AIがジャーナリストを欺けるほど高度になり、ユーザーが何の結果も伴わずにAIスロップを生成できるようになったからだろう。AI濫用に対する規制がないまま時間が経てば経つほど、被害は拡大する。今すぐ変化を起こさなければ、AI偽ニュースの増殖が私たちをファクトに基づく世界の崖っぷちへと追い込むだろう」。

メディア監視団体NewsGuardのアナリスト、イシス・ブラシェ氏も同様の懸念を示す。「AI生成の画像や動画がますます精巧になるにつれ、ユーザーはイラン寄りの主張を裏付ける『証拠』として提示されたビジュアルを疑問視しなくなるかもしれない。AI検出ツールは、AIコンテンツを一貫して認識することに成功していない」。

日本にとってこの問題は遠い話ではない。NHKや民放各社が海外紛争を報道する際、Xなどのソーシャルメディアから映像素材を取得することは珍しくない。AI生成フェイクが高度化するほど、日本の報道機関も検証コストの増大という課題に直面する。また、日本政府が推進する「偽情報対策」の文脈でも、今回の事例は重要な参照点となるだろう。