AIは誰が「標的」を決めるのか――米軍とイランの戦争が問うもの

ある朝、小学校に通うはずだった子どもたちは、教室にたどり着けなかった。

米国とイスラエルによるイランへの軍事作戦の中で、ミサイルが小学校を直撃した。その攻撃の背後に、人工知能（AI）が関与していたとされる事実が明らかになるにつれ、国際社会は一つの問いを突きつけられています。「誰が、何が、この標的を選んだのか」――。

AIは「補佐役」か、それとも「決定者」か

米軍はイランに対する作戦の準備に際し、Palantir（パランティア）が開発した「Maven Smart System（マーベン・スマート・システム）」を使用したと報じられています。このシステムには、AIスタートアップAnthropic（アンソロピック）が開発した言語モデル「Claude（クロード）」が組み込まれており、膨倒的な量の情報を集約・分析する役割を担っていました。

米国内の事情に詳しい関係者によれば、Claudeが担ったのはあくまでもデータの整理と情報提供であり、「攻撃するかどうか」という最終決定は人間の判断に委ねられていたとされます。しかし、その境界線は本当に明確だったのでしょうか。

軍事作戦において、AIが提示する「推奨」や「優先順位付け」は、人間の判断にどれほど影響を与えるのか。膨大なデータを瞬時に処理し、特定の標的を「高優先度」と評価するAIの出力を、現場の指揮官はどこまで独立して覆せるのか。この問いは、今回の事案に限らず、AI兵器システム全体に共通する根本的な課題です。

国際社会の反応と法的な空白

小学校への攻撃を受け、中国は強く非難する声明を発表しました。国際人道法（IHL）の観点からも、民間施設への攻撃は原則として禁止されており、「攻撃の判断にAIが関与していた」という事実は、責任の所在をめぐる複雑な議論を呼んでいます。

現行の国際法は、AIが意思決定に深く関与する「自律型致死兵器システム（LAWS）」を明示的に規制する条約を持っていません。2023年の国連総会でAIの軍事利用に関する決議が採択されたものの、拘束力は限定的です。各国が自律型兵器の開発を競う中、法整備は技術の進歩に追いついていないのが現状です。

広告

広告掲載について

[email protected]

広告

この「法的な空白」は、技術を持つ国家に大きな裁量を与える一方で、被害を受けた側には救済の手段が乏しいという非対称性を生み出しています。

日本にとっての意味――遠い話ではない理由

この問題は、日本にとっても無縁ではありません。

まず、技術面での関与という視点があります。AnthropicはGoogleやAmazonから多額の出資を受けており、日本の大手企業もこれらのプラットフォームを通じてAI技術と深く結びついています。AI技術のサプライチェーンは国境を越えており、日本企業が提供するデータセンターやクラウドインフラが、間接的に軍事AIシステムを支えている可能性も排除できません。

次に、防衛政策との関連です。日本政府は近年、防衛費の増額とともにAIを活用した防衛能力の強化を推進しています。2023年に策定された国家防衛戦略にも、AIや無人システムの活用が明記されました。今回の事案は、「AIをどこまで防衛に使うのか」という問いを、日本社会に対しても突きつけています。

さらに、日本は平和憲法のもとで「戦争放棄」を掲げる国です。AIが関与した攻撃で民間人が犠牲になるという事態は、憲法の精神とどう向き合うべきかという問いを改めて浮かび上がらせます。

「効率」と「倫理」の間で

AIの軍事利用を推進する側の論理は明快です。人間よりも速く、より多くの情報を処理できるAIは、誤爆を減らし、兵士の犠牲を最小化できる――という主張です。PalantirのCEO、Alex Karp（アレックス・カープ）氏はかねてより「AIは戦争をより精密にする」と主張してきました。

しかし今回の小学校への攻撃は、その主張に深刻な疑問符を投げかけます。AIが処理するデータ自体に偏りや誤りがあれば、その出力も誤りを含む。「ゴミを入れればゴミが出る（Garbage in, garbage out）」という情報科学の基本原則は、人命がかかった戦場でも変わりません。

また、AIへの過度な依存が「責任の拡散」を招くという懸念もあります。攻撃の判断が人間とAIの複雑な相互作用の中で生まれた場合、誰が法的・道義的責任を負うのか。指揮官か、AIの開発企業か、それとも政府か。この問いに明確に答えられる国は、現時点では存在しません。