AIが「セキュリティの守護者」になれるか、それとも新たな壁か

AnthropicがAIモデル「Mythos」の一般公開を制限。サイバーセキュリティ保護か、企業戦略か。その真意と日本社会への影響を多角的に読み解きます。

あなたが毎日使っているオンラインバンキング、クラウドサービス、企業の基幹システム——それらを守るAIが、同時に最大の脅威になりうるとしたら、どうすべきでしょうか。

AIスタートアップのAnthropicは今週、最新モデル「Mythos」の一般公開を見送ると発表しました。理由は、このモデルがソフトウェアの脆弱性を発見・悪用する能力において、あまりにも優秀すぎるというものです。代わりに同社は、Amazon Web ServicesやJPMorgan Chaseといった重要なオンラインインフラを運営する大企業・組織に限定して提供する方針を打ち出しました。OpenAIも同様のアプローチを次世代サイバーセキュリティツールで検討していると報じられています。

表向きの理由は明快です。高度なAIを悪意ある攻撃者に先んじて防衛側に渡すことで、インターネット全体の安全を守る、というものです。しかし、この話には続きがあります。

「最強モデル」の実態とは何か

Anthropicによれば、Mythosは前世代モデル「Opus」と比べて、脆弱性の悪用能力が大幅に向上しているとのことです。しかしこの主張には、すでに疑問の声も上がっています。

AIサイバーセキュリティスタートアップのAisleは、Mythosが達成したとされる成果の多くを、より小規模なオープンウェイトモデルで再現できたと発表しました。同社の見解では「サイバーセキュリティに万能のモデルは存在しない。重要なのは用途に応じた使い分けだ」というものです。

AIサイバーセキュリティ企業IrregularのCEO、ダン・ラハブ氏も「AIが脆弱性を発見することよりも、それが実際に悪用可能かどうか、あるいは複数の脆弱性を組み合わせた『チェーン攻撃』として機能するかが重要だ」と指摘しています。つまり、モデルの能力の高さそのものよりも、実際の攻撃シナリオにおける有効性が問われるわけです。

「安全のため」の裏にあるビジネスロジック

広告掲載について

[email protected]

ここで見逃せないのが、もう一つの文脈です。

ソフトウェアエンジニアでスタートアップexe.devのCEOでもあるデイビッド・クロウショー氏は、SNS上でこう指摘しました。「これは、トップクラスのモデルがエンタープライズ契約でしか使えなくなったことへのマーケティング上の言い訳に過ぎない。あなたや私がMythosを使えるようになる頃には、もっと高性能な次世代モデルが大企業専用になっているだろう」

この指摘が示す「トレッドミル」の構造は、AI業界の現在地をよく表しています。フロンティアラボ（最先端AI企業）は、巨大な資本を投じてスケールを追求することで競争優位を確保してきました。しかし近年、「蒸留（ディスティレーション）」と呼ばれる技術が台頭しています。これは、既存の高性能モデルを教師として、より小規模・低コストで新たなモデルを訓練する手法です。

Anthropicはすでに今年、中国企業による自社モデルの蒸留試みを公式に告発しています。さらにAnthropic、Google、OpenAIの3社が連携して蒸留業者の特定・排除に動いているとも報じられています。限定公開という戦略は、インターネットを守りながら、同時に蒸留による競合の台頭を防ぎ、エンタープライズ契約という収益源を確保する——三つの目的を一度に達成しうる手段なのです。

日本企業と社会への影響

この動きは、日本にとっても対岸の火事ではありません。

日本の大企業、たとえば金融機関や製造業の基幹システムは、グローバルなクラウドインフラに深く依存しています。AWSやMicrosoft AzureといったプラットフォームがMythosのような高度なAIツールにアクセスできる一方で、中小規模の日本企業やスタートアップがそこから排除される構造が生まれるとすれば、サイバーセキュリティ上の格差が広がりかねません。

一方で、日本政府はAIガバナンスの整備を急いでいます。経済産業省や総務省はAI安全性に関するガイドラインを策定中ですが、今回のような「民間主導の限定公開」という新しい形態に対して、規制の枠組みがどう対応するかは未知数です。

また、日本社会が重視する「公平性」や「透明性」という価値観から見れば、一部の大企業だけが高度なセキュリティツールにアクセスできるという非対称な構造は、社会的な議論を呼ぶ可能性があります。