AI企業と国防総省の対立が浮き彫りにする「合法的監視」の曖昧な境界線

AI企業Anthropicが国防総省との契約を拒否し、競合のOpenAIが条件付きで合意した一連の騒動は、ひとつの重要な疑問を浮き彫りにしました。アメリカ政府は法的に、自国民に対する大規模監視を実行できるのでしょうか？

企業が引いた「レッドライン」の意味

今回の対立の発端は、国防総省がAnthropicのAI「Claude」を使って、アメリカ国民から収集した大量の商用データを分析しようとしたことでした。Anthropicは自社のAIが国内での大規模監視や自律兵器に使用されることを拒否。交渉決裂の一週間後、国防総省は同社を「サプライチェーンリスク」に指定しました。

一方、OpenAIは当初「すべての合法的目的」での使用を許可する契約を結びましたが、ユーザーの大規模な離脱と抗議を受けて、国内監視には使用しないという条項を追加しました。

OpenAIのCEOサム・アルトマン氏は「既存の法律が国防総省による国内監視を禁じている」と主張する一方、Anthropicのダリオ・アモデイ氏は「AIの急速な能力向上に法律が追いついていない」と反論しています。

「監視」の定義が曖昧な現実

実は、何が「監視」に当たるかという定義自体が曖昧です。ミネソタ大学のアラン・ローゼンシュタイン教授は「一般人が捜索や監視と考えるものの多くが、法的には捜索や監視とみなされない」と指摘します。

ソーシャルメディアの投稿、監視カメラの映像、有権者登録記録などの公開情報は規制対象外です。さらに重要なのは、政府が企業から商用データを購入できることです。これには位置情報やウェブ閲覧履歴など、本来なら令状が必要な機密性の高い個人情報が含まれることもあります。

近年、ICEからFBI、NSAまで様々な機関がこのデータ市場を活用しています。インターネット経済がユーザーデータを広告目的で収集する仕組みが、政府の監視能力を大幅に拡張しているのです。

AIが変える監視の次元

AIはこの状況をさらに複雑にします。「AIは個別には機密性の低い情報を大量に処理し、政府に従来なかった能力を与えることができる」とローゼンシュタイン教授は説明します。

AIは個々の情報を集約してパターンを発見し、推論を行い、大規模に詳細な人物プロファイルを構築できます。政府が合法的に情報を収集している限り、AIシステムに投入することに法的制限はありません。

元国防総省情報将校のローレン・ヴォス氏は、国防総省がアメリカ国民の情報を収集するには「非常に特定のミッションのサブセット」が必要だと説明します。しかし、標的を絞った諜報活動でも、時として収集範囲が拡大する可能性があります。

契約条項では解決しない根本問題

OpenAIは新しい契約で「アメリカ国民の国内監視に意図的に使用してはならない」という条項を追加しましたが、「すべての合法的目的」での使用を認める条項は残っています。

ジョージ・ワシントン大学のジェシカ・ティリップマン教授は「OpenAIが契約で何を言おうと、国防総省は合法と判断することに技術を使用する」と指摘します。さらに、意図しない監視や、アメリカ在住の外国人・不法滞在者の監視については曖昧なままです。

OpenAIは技術的セーフガードや監視スタックの導入を約束していますが、これらがどの程度国防総省の使用を制約できるかは不明です。

民主的議論が必要な時

現在、AIの規制は法律ではなく契約によって行われています。オレゴン州のロン・ワイデン上院議員は、政府による商用データ購入を制限する「修正第4条は売り物ではない法案」への超党派支持を求めていますが、2021年の初回提出以来、まだ成立していません。

プライバシーと国家安全保障の間の困難なトレードオフを伴うこれらの問題は、行政府と一握りのAI企業の密室交渉ではなく、国民的議論によって決められるべきかもしれません。