Microsoft Copilot AI 誤報でサポーター出入り禁止。英国警察のずさんなAI運用が露呈
イギリスのウエスト・ミッドランズ警察が、Microsoft CopilotによるAI誤報を事実確認せずに採用。存在しない試合情報を基にサッカーファンを出入り禁止にした問題の全容を解説します。
AIが作り出した「存在しない試合」によって、罪のないファンがスタジアムから締め出されました。イギリス最大級の警察組織であるウエスト・ミッドランズ警察が、Microsoft Copilotが生成した誤った情報を、事実確認なしにインテリジェンス・レポートに掲載していたことが明らかになりました。
Microsoft Copilot AI 誤報が生んだ「幻」の対戦カード
The Vergeの報道によると、今回の騒動のきっかけは、AIが捏造した「ウェストハム対マッカビ・テルアビブ」という架空の試合結果でした。Microsoft Copilotは実際には行われていないこの試合を「ハルシネーション(幻覚)」によって生成し、警察はこれを鵜呑みにしてレポートを作成しました。この誤った情報に基づき、2025年に行われた実際の試合において、イスラエルのサッカーファンが不当に観戦を禁止されるという実害が発生しました。
ウエスト・ミッドランズ警察のクレイグ・ギルフォード署長は、1月の金曜日の午後にこのミスを把握したと認め、「Microsoft Copilotの使用によって誤った結果が生じた」と声明を発表しました。警察内部でAIツールを業務に使用しながら、人間による適切なファクトチェック(事実確認)が欠落していた体制が厳しく問われています。
関連記事
AnthropicがOpus 4.8を公開。前作からわずか41日での更新は競争圧力の表れか。「不確実性を自ら報告する」設計思想が、企業AI活用の信頼基準を塗り替えようとしている。
Google I/O直後のサンダー・ピチャイCEOへの独占インタビュー。AI検索の変容、ウェブの未来、AGIへのタイムライン、そして日本社会への影響を多角的に分析します。
かつては「お願いするだけ」で突破できたAIの安全機能。技術の進化とともに攻撃も巧妙化する中、AIセキュリティの現在地と私たちへの影響を読み解く。
GoogleのAI概要機能が「disregard」という検索ワードに対し、チャットボットのような返答を表示するバグが発生。AIシステムの脆弱性と検索の未来について考える。
意見
この記事についてあなたの考えを共有してください
ログインして会話に参加