AIフェイク動画を見抜けないMeta——戦時下の偽情報が暴いた限界

戦争が始まると、嘘も加速する。

昨年、MetaのFacebook・Instagram・Threadsでひとつの動画が拡散した。イスラエルの建物が破壊される様子を映したとされる映像だ。だが実際には、AIによって生成されたフェイク動画だった。問題は、その動画が何百万人もの目に触れる前に、Metaのシステムがそれを検出できなかったことにある。

この事件を受け、Metaの監督機関であるOversight Board（オーバーサイト・ボード）は2026年3月、同社のAI生成コンテンツの検出・ラベリング体制が「武力紛争時の偽情報拡散スピードに対応できるほど堅牢でも包括的でもない」と断言し、抜本的な見直しを求める勧告を公表した。

何が起きたのか——事件の構造

Oversight Boardは、Metaから独立した立場で同社のコンテンツモデレーション方針を監視・評価する機関だ。完全な独立機関ではないものの、Metaは原則としてその勧告に従う義務を負っている。

今回の調査対象となったのは、イスラエルの建物被害を描写したとされるAI生成動画だ。この動画はFacebook、Instagram、Threadsの各プラットフォームで拡散したが、Metaの自動検出システムはリアルタイムでのフラグ付けに失敗した。

Oversight Boardが特に問題視したのは、検出の「速度」と「網羅性」の欠如だ。武力紛争下では、誤情報が数時間で数百万回シェアされることがある。その速度に対して、現在のMetaのAIラベリング体制は後手に回っているという。

ボードはMetaに対し、Facebook・Instagram・Threads全体でAI生成コンテンツの検出と表示ラベルの仕組みを全面的に刷新するよう求めている。

なぜ今、この問題が重要なのか

ディープフェイク技術は急速に民主化されている。2023年時点では高度な技術者しか作れなかったレベルのフェイク動画が、2025年末には無料アプリで数分以内に生成できるようになった。生成コストが下がれば下がるほど、偽情報の「製造コスト」も下がる。

広告

広告掲載について

[email protected]

広告

一方、ソーシャルメディアのアルゴリズムは感情を刺激するコンテンツを優先的に拡散する傾向がある。戦争や紛争に関連する映像は、恐怖や怒りを喚起するため、特にシェアされやすい。この構造的な問題が、AI偽情報の危険性を増幅させている。

さらに重要なのはタイミングだ。2026年は世界各地で選挙が続く年であり、地政学的緊張も高まっている。武力紛争下でのフェイク動画は、単なる「誤情報」を超え、実際の政治判断や世論形成に影響を与えうる。

日本にとっても、この問題は対岸の火事ではない。ソニーやNTTなどの大手企業がMetaのプラットフォームを広告・マーケティングチャネルとして活用している。また、能登半島地震（2024年）や台湾海峡をめぐる緊張など、日本周辺でも危機的状況下でのSNS偽情報拡散は現実の課題として顕在化している。

各ステークホルダーの視点

**Metaの立場**から見れば、この問題は技術的・経済的ジレンマだ。AIラベリングを強化すれば、誤検知（フォルスポジティブ）が増え、正当なコンテンツまでフラグが立つリスクがある。過剰な検閲への批判は、同社が長年直面してきた問題でもある。

一般ユーザーの視点では、「自分が見ている映像が本物かどうか」を判断する手がかりが乏しい現状がある。ラベリングが改善されれば、情報リテラシーの補助ツールになりうる。だが、ラベルの存在が「ラベルのないものは本物」という誤った安心感を生む逆説もある。

政府・規制当局の視点では、EUの「デジタルサービス法（DSA）」がすでにAI生成コンテンツの開示を義務化しており、Metaはその対応を迫られている。日本でも総務省が偽情報対策の法整備を検討中だが、プラットフォーム企業への規制アプローチはまだ模索段階にある。

競合他社であるGoogleやTikTok、X（旧Twitter）も同様の課題を抱えている。Metaが今回の勧告に真剣に取り組めば、業界標準を設定する先行者となれる可能性がある。逆に形式的な対応にとどまれば、規制強化の口実を与えることになる。

「ラベルを貼ること」の限界

ここで一歩引いて考えてみたい。AIラベリングは本当に解決策になりうるのか。

研究者の間では、ラベルの効果に懐疑的な見方もある。心理学的研究によれば、人は自分の信念に合致する情報を優先的に信じる「確証バイアス」を持つ。「AIが生成した可能性があります」というラベルが表示されても、見たいものを見たい人はそのラベルを無視する傾向がある。

また、技術的な「軍拡競争」の問題もある。検出技術が向上すれば、それを回避する生成技術も進化する。ラベリング強化は必要条件だが、それだけでは十分ではないという指摘は多い。

日本社会の文脈で言えば、「情報の正確さ」への高い期待と、SNSリテラシーの世代間格差が同時に存在する。高齢者層がFacebookを主要な情報源として使用している現状では、ラベルの意味を正しく理解できるかどうかという教育的課題も浮かび上がる。