AI悪用サイバー攻撃の現実：ランサムウェアから詐欺まで

2024年8月、セキュリティ研究者のアントン・チェレパノフ氏は、ウイルス分析サイトVirusTotalで奇妙なファイルを発見した。一見無害に見えたそのファイルは、彼のマルウェア検出システムを作動させた。数時間の分析後、彼らは前例のないものを発見していた。

それは大規模言語モデル（LLM）を全面的に活用したランサムウェア「PromptLock」だった。感染すると、リアルタイムでカスタムコードを生成し、コンピューターをマッピングして機密データを特定し、ファイル内容に基づいてパーソナライズされた身代金要求書を作成する。すべて人間の介入なしに、自律的に動作した。

学術実験から見える現実の脅威

翌日、ニューヨーク大学の研究チームが「これは実際の攻撃ではなく、研究プロジェクトだった」と説明した。しかし、この発見は決して無意味ではなかった。

現実の犯罪者たちは、すでにAIツールを積極的に活用している。ソフトウェアエンジニアがAIでコード作成やバグチェックを行うように、ハッカーも攻撃の時間と労力を削減するためにこれらのツールを使用している。経験の浅い攻撃者でも、以前より簡単に攻撃を試みることができるようになった。

ユニバーシティ・カレッジ・ロンドンのロレンゾ・カヴァッラロ教授は「サイバー攻撃がより頻繁で効果的になる可能性は、遠い可能性ではなく『明確な現実』だ」と警告する。

スパムから詐欺まで：AIが加速する犯罪

攻撃者はChatGPTが登場した2022年末からすぐに生成AIツールの採用を始めた。マイクロソフトの報告によると、2025年4月までの1年間で、同社は40億ドル相当の詐欺と不正取引をブロックした。「その多くはAIコンテンツによって支援されている可能性が高い」という。

コロンビア大学、シカゴ大学、Barracuda Networksの研究者による分析では、現在スパムメールの少なくとも半分がLLMを使用して生成されている。標的型メール攻撃では、2024年4月の7.6%から2025年4月には14%まで増加した。

最も衝撃的な事例の一つが、英国のエンジニアリング会社Arupの従業員が、CFOや他の従業員のデジタル版とのビデオ通話で騙され、犯罪者に2500万ドルを送金した事件だ。

日本企業への影響と対策

生成AIの悪用は日本企業にとっても深刻な脅威となっている。特に、日本語での精巧な詐欺メールやディープフェイク動画の作成が容易になったことで、従来の「日本語の不自然さ」による判別が困難になっている。

グーグルの脅威分析グループのビリー・レオナード氏は、2024年後半から犯罪者がAIツールを日常的に使用し始め、2025年には新しいマルウェアの作成と拡散にAIを活用するまでに進歩したと報告している。

中国系攻撃グループがGeminiを騙して脆弱性情報を入手した事例では、攻撃者がサイバーセキュリティ競技の参加者を装うことで、AIの安全ガードレールを回避した。これは「ジェイルブレイキング」と呼ばれる手法で、AIモデルの制限を巧妙に回避する技術だ。

オープンソースAIの新たなリスク

今後、犯罪者はOpenAIなどのオープンソースAIモデルにより注目するようになると予想される。これらのモデルは安全ガードを除去しやすく、悪意ある目的に合わせてカスタマイズしやすいからだ。

PromptLockの実験でも、研究者たちはジェイルブレイキング技術を使わずにオープンソースモデルに悪意あるタスクを実行させることができた。ニューヨーク大学のミート・ウデシ氏は「これらのLLMは倫理的に調整されていると主張しているが、悪意ある目的に悪用できるかテストした結果、答えは『はい』だった」と述べている。

防御の現状と課題

現在のところ、研究者たちは既存の防御手段でこれらの脅威に対抗できると楽観視している。従来のウイルス検出やスパムフィルターは依然として有効で、過去10年以上推奨されてきたセキュリティ対策の多くが今でも適用できる。

興味深いことに、AI自体も防御に活用されている。マイクロソフトは毎日100兆以上の潜在的に悪意あるまたは疑わしいイベントの信号をAIシステムで処理している。

しかし、AIの急速な進歩により、今日のシステムは数年前には不可能と思われた能力を持っている。ノースイースタン大学のエンギン・キルダ教授は「特に中国では、優れたAI能力を持つ人々がすでにこのような取り組みを行っていると確信している」と述べている。