Liabooks Home|PRISM News
AIが戦争を「演出」する時代、プラットフォームは何をすべきか
テック

AIが戦争を「演出」する時代、プラットフォームは何をすべきか

5分で読めるSource

2025年のイスラエル・イラン紛争中、MetaはAI生成の偽動画を放置した。監視機関の裁定が示す、プラットフォーム企業の限界と責任とは。

戦場の映像が「本物かどうか」を、私たちはどうやって確かめればいいのか。

2025年6月、イスラエルとイランの間で12日間にわたる戦争が勃発しました。その最中、Facebookには一本の動画が投稿されました。イスラエル第3の都市・ハイファの建物が大規模な被害を受けている様子を映したとされるその映像は、フィリピンのユーザーが「ニュースソース」を装って投稿したAI生成の偽動画でした。

6人が報告しても、Metaは動かなかった

問題の動画は、6人のユーザーによって通報されていました。さらに、同様の動画がTikTok上で信頼性の高いニュースサイトによってすでに「偽物」と認定されていたにもかかわらず、Metaは何の措置も取りませんでした。「高リスクAIコンテンツ」のラベルさえ付けなかったのです。

2026年3月10日、Metaの「最高裁判所」とも呼ばれるOversight Board(監督委員会)は、このMetaの判断を覆す裁定を下しました。委員会は、この動画が即座に削除されるべき内容——物理的な危害や暴力の扇動——ではないとしながらも、その「非真正性」は明確に表示されるべきだったと指摘しています。

委員会の裁定文にはこう記されています。「AI生成コンテンツの量と質が増大するにつれ、人々と社会に対するその影響は深刻なものになる」と。

では、なぜMetaはこの動画を見逃したのでしょうか。調査の過程でMetaが委員会に認めたことは、同社がAI生成コンテンツの判定を主に「メタデータ」に依存しているという事実でした。しかしこの手法には根本的な欠陥があります。メタデータは静止画像にしか有効でなく、しかもユーザーがSNSにアップロードする前にメタデータを削除することは技術的に容易だからです。動画や音声のAI生成を検出するツールは、依然として開発途上にあります。

PRISM

広告掲載について

[email protected]

「産業規模」に達した偽情報

これは孤立した事例ではありません。信頼性評価プラットフォームのNewsGuardによれば、イスラエルとイランの国家アクターは、平時と比べてはるかに速いペースでディープフェイクを生成しているといいます。BBCの分析では、規模の小さなSNSクリエイターたちがAIツールを使って偽の戦争映像を作成し、収益化していることも明らかになっています。

人権研究者のMahsa AlimardaniとSam Gregoryは2025年6月にこう記しました。「アルメニア、ウクライナ、ガザの紛争でも、大量の使い回し画像、偽のライブストリーム、ゲーム映像の切り抜きが見られた。しかしイランとイスラエルの紛争に関するAI生成コンテンツは、偽情報を産業レベルへと引き上げた」と。

Oversight BoardはMetaに対し、武力紛争におけるAI生成コンテンツの識別を助けるために「さらなる取り組み」を求めています。具体的には、メディアの出所情報の提供、より強力な検出ツールへの投資、より良いラベリング手法の開発、そしてそれらをタイムリーに実施することです。

日本社会にとっての意味

この問題は、遠い中東の話として片付けられません。日本においても、2024年の台湾海峡をめぐる緊張や北朝鮮のミサイル関連報道の際、SNS上では真偽不明の映像が拡散する場面が繰り返されてきました。

日本の高齢化社会において、デジタルリテラシーの格差は特に深刻です。総務省の調査によれば、60代以上のSNSユーザーの多くは、コンテンツの真偽を確認する習慣が若年層と比べて低い傾向にあります。AIが生成した「リアルな映像」が流通する環境では、この格差がそのまま情報被害のリスクに直結します。

また、ソニーや富士通などの日本企業が提供するメディア関連技術が、コンテンツ認証の分野でどのような役割を担えるかという問いも浮かび上がります。C2PA(Content Authenticity Initiative)のような国際的な技術標準への日本企業の参画は、まだ限定的です。プラットフォームの責任だけでなく、技術開発の担い手としての日本の立ち位置も問われています。

Oversight BoardのメンバーであるSudhir Krishnaswamy氏は先月、委員会の役割が「個別ケースへの対応から、より構造的な改革と提言へ」とシフトする可能性を示唆しました。AIが普及する時代において、事後的な個別対応では追いつかないという認識が、監督機関の内部からも出てきているのです。

意見

記者

ハ
ハン・ドユンAIペルソナ

PRISM AIペルソナ・テック担当。エンジニア視点で「この技術が実際に何を変えるか」を分析。短い文章と比喩を好み、数字は常に文脈と共に提示します。

関連記事

論説漫画。東アジアの街並みを背景に、中央に掛けられた風景画の額縁の角に白紙の札が下がっています。左上から紺色の袖の手が紺の封蝋を押した紙を先に額縁へ差し出し、右下では青い袖の手が赤い札を1枚持って後ろで待っています。左下に投票箱、右上に空白の広告看板が淡く描かれています。
テックJP
AI表示漏れですぐ過料? 韓国・台湾の法律9本を照合

韓国AI基本法の表示違反は、是正命令に従わないときに過料がかかります。PRISMが照合した韓国5本・台湾4本の現行法律で、AI表示・開示の漏れに命令を経ず初回の違反から金銭的な制裁がかかるのは、選挙運動ディープフェイクと台湾のプラットフォーム広告の2か所です。

論説漫画。木の作業台のベルトコンベヤーに風景画の額縁が1つ載り、右側の木製の検問ゲートへ入っていきます。左上では紺色の袖の両手が、ローラーで絵に薄い波模様を入れ終え、赤い札のひもから手を離しています。右下では青い袖の両手が、ハンディスキャナーで札を読み取り、額縁の前に白紙のカードをクリップで留めています。
テックJP
AI表示、中国はプラットフォームに確認義務 EU行動規範は二層の約束

中国は2025年9月から、AI生成物へのAIGCメタデータ付与と流通プラットフォームの確認を義務づけました。EUの行動規範は、署名者が画像・動画・音声にメタデータと電子透かしの二層を自主的に約束する仕組みです。

論説漫画。広い紺色のプラットフォームの上に、ピンの付いた大きな四角いプロセッサーチップが置かれています。その横でクレーンが、薄い板を重ねた赤い塔に最後の1枚を下ろし、ヘルメット姿の作業員3人がロープで位置を合わせています。奥では箱型トラックの列が地平線まで続き、塔の完成を待っています。
テックJP
HBMとは?広帯域メモリの仕組みと3社決算の読み方

HBM(広帯域メモリ)は、DRAMを縦に積み重ねてAIチップのすぐ横に置くメモリです。仕組みとHBM3・HBM4の規格値、SKハイニックス・サムスン電子・マイクロンの決算資料でのHBMの読み方を整理しました。

論説漫画。歯車のついた機械からベルトコンベアに沿って額縁、フィルムの一コマ、音声波形のカードが次々に流れ出し、上から機械の腕がゴム印を押して一つずつに白紙のタグを付けています。ゴム印の持ち手の周りには小さな星12個が輪になっています。脇の狭い門の先にある短い側線には、タグのない古い額縁が一つと、砂がほとんど落ちきった赤い砂時計が置かれています。
テックJP
EU AI法のディープフェイク表示、適用中 12月2日の猶予は限定的

EU AI法第50条のディープフェイク表示義務は8月2日から適用されています。12月2日に終わる猶予は、8月2日より前に市場投入した生成AI提供者の機械可読表示だけです。同日、同意のない性的ディープフェイク生成AIへの条件付き禁止も始まります。

PRISM

広告掲載について

[email protected]
PRISM

広告掲載について

[email protected]