AIが戦争を「演出」する時代、プラットフォームは何をすべきか

戦場の映像が「本物かどうか」を、私たちはどうやって確かめればいいのか。

2025年6月、イスラエルとイランの間で12日間にわたる戦争が勃発しました。その最中、Facebookには一本の動画が投稿されました。イスラエル第3の都市・ハイファの建物が大規模な被害を受けている様子を映したとされるその映像は、フィリピンのユーザーが「ニュースソース」を装って投稿したAI生成の偽動画でした。

6人が報告しても、Metaは動かなかった

問題の動画は、6人のユーザーによって通報されていました。さらに、同様の動画がTikTok上で信頼性の高いニュースサイトによってすでに「偽物」と認定されていたにもかかわらず、Metaは何の措置も取りませんでした。「高リスクAIコンテンツ」のラベルさえ付けなかったのです。

2026年3月10日、Metaの「最高裁判所」とも呼ばれるOversight Board（監督委員会）は、このMetaの判断を覆す裁定を下しました。委員会は、この動画が即座に削除されるべき内容——物理的な危害や暴力の扇動——ではないとしながらも、その「非真正性」は明確に表示されるべきだったと指摘しています。

委員会の裁定文にはこう記されています。「AI生成コンテンツの量と質が増大するにつれ、人々と社会に対するその影響は深刻なものになる」と。

では、なぜMetaはこの動画を見逃したのでしょうか。調査の過程でMetaが委員会に認めたことは、同社がAI生成コンテンツの判定を主に「メタデータ」に依存しているという事実でした。しかしこの手法には根本的な欠陥があります。メタデータは静止画像にしか有効でなく、しかもユーザーがSNSにアップロードする前にメタデータを削除することは技術的に容易だからです。動画や音声のAI生成を検出するツールは、依然として開発途上にあります。

広告

広告掲載について

[email protected]

広告

「産業規模」に達した偽情報

これは孤立した事例ではありません。信頼性評価プラットフォームのNewsGuardによれば、イスラエルとイランの国家アクターは、平時と比べてはるかに速いペースでディープフェイクを生成しているといいます。BBCの分析では、規模の小さなSNSクリエイターたちがAIツールを使って偽の戦争映像を作成し、収益化していることも明らかになっています。

人権研究者のMahsa AlimardaniとSam Gregoryは2025年6月にこう記しました。「アルメニア、ウクライナ、ガザの紛争でも、大量の使い回し画像、偽のライブストリーム、ゲーム映像の切り抜きが見られた。しかしイランとイスラエルの紛争に関するAI生成コンテンツは、偽情報を産業レベルへと引き上げた」と。

Oversight BoardはMetaに対し、武力紛争におけるAI生成コンテンツの識別を助けるために「さらなる取り組み」を求めています。具体的には、メディアの出所情報の提供、より強力な検出ツールへの投資、より良いラベリング手法の開発、そしてそれらをタイムリーに実施することです。

日本社会にとっての意味

この問題は、遠い中東の話として片付けられません。日本においても、2024年の台湾海峡をめぐる緊張や北朝鮮のミサイル関連報道の際、SNS上では真偽不明の映像が拡散する場面が繰り返されてきました。

日本の高齢化社会において、デジタルリテラシーの格差は特に深刻です。総務省の調査によれば、60代以上のSNSユーザーの多くは、コンテンツの真偽を確認する習慣が若年層と比べて低い傾向にあります。AIが生成した「リアルな映像」が流通する環境では、この格差がそのまま情報被害のリスクに直結します。

また、ソニーや富士通などの日本企業が提供するメディア関連技術が、コンテンツ認証の分野でどのような役割を担えるかという問いも浮かび上がります。C2PA（Content Authenticity Initiative）のような国際的な技術標準への日本企業の参画は、まだ限定的です。プラットフォームの責任だけでなく、技術開発の担い手としての日本の立ち位置も問われています。

Oversight BoardのメンバーであるSudhir Krishnaswamy氏は先月、委員会の役割が「個別ケースへの対応から、より構造的な改革と提言へ」とシフトする可能性を示唆しました。AIが普及する時代において、事後的な個別対応では追いつかないという認識が、監督機関の内部からも出てきているのです。