Microsoft Copilot AI 誤報でサポーター出入り禁止。英国警察のずさんなAI運用が露呈
イギリスのウエスト・ミッドランズ警察が、Microsoft CopilotによるAI誤報を事実確認せずに採用。存在しない試合情報を基にサッカーファンを出入り禁止にした問題の全容を解説します。
AIが作り出した「存在しない試合」によって、罪のないファンがスタジアムから締め出されました。イギリス最大級の警察組織であるウエスト・ミッドランズ警察が、Microsoft Copilotが生成した誤った情報を、事実確認なしにインテリジェンス・レポートに掲載していたことが明らかになりました。
Microsoft Copilot AI 誤報が生んだ「幻」の対戦カード
The Vergeの報道によると、今回の騒動のきっかけは、AIが捏造した「ウェストハム対マッカビ・テルアビブ」という架空の試合結果でした。Microsoft Copilotは実際には行われていないこの試合を「ハルシネーション(幻覚)」によって生成し、警察はこれを鵜呑みにしてレポートを作成しました。この誤った情報に基づき、2025年に行われた実際の試合において、イスラエルのサッカーファンが不当に観戦を禁止されるという実害が発生しました。
ウエスト・ミッドランズ警察のクレイグ・ギルフォード署長は、1月の金曜日の午後にこのミスを把握したと認め、「Microsoft Copilotの使用によって誤った結果が生じた」と声明を発表しました。警察内部でAIツールを業務に使用しながら、人間による適切なファクトチェック(事実確認)が欠落していた体制が厳しく問われています。
本コンテンツはAIが原文記事を基に要約・分析したものです。正確性に努めていますが、誤りがある可能性があります。原文の確認をお勧めします。
関連記事
セコイア・キャピタルがAnthropicの250億ドル規模の資金調達に参加。OpenAIやxAIにも投資する同社の戦略転換と、評価額3,500億ドルに達したAI市場の過熱をChief Editorが分析します。
ロイターによると、日本政府がイーロン・マスク氏のAI「Grok」による不適切画像生成を巡り調査を開始しました。個人情報保護法やプライバシー侵害の観点から、生成AIの規制と運用の在り方が問われています。
X(旧Twitter)が生成AI「Grok」の画像加工を有料会員限定に変更。ディープフェイクやAI依存問題が深刻化する中、テック企業が直面する倫理的責任と安全対策の最前線を चीफ Editor が分析します。
BandcampはAI生成音楽を全面的に禁止し、削除対象とすることを発表。アーティストの権利を守るための厳格なガイドラインを導入しました。Spotifyの規制との比較や、音楽業界への影響を詳しく解説します。