Google AI検索で詐欺が急増、なぜAIは騙されやすいのか

GoogleのAI Overviewsに偽の電話番号が表示され、詐欺被害が発生。AI検索の便利さの裏に潜む新たなリスクと対策を解説。

銀行の顧客サポートに電話をかけたつもりが、詐欺師につながってしまった。Googleで検索して表示された電話番号を信じた結果、個人情報を盗まれる被害者が続出している。問題の原因は、GoogleのAI Overviewsという新機能だった。

従来の検索結果とは異なり、AI Overviewsはウェブ上の情報を要約して「答え」として表示する。しかし、この便利な機能が今、詐欺師たちの新たな標的となっている。

AI検索詐欺の仕組み

ワシントン・ポストやDigital Trendsの報道によると、FacebookやRedditで被害報告が相次いでいる。信用組合や銀行も顧客に注意喚起を始めた。

詐欺の手口は巧妙だ。悪意のある者たちが、有名企業の名前と偽の電話番号をウェブ上の複数の目立たないサイトに掲載する。AI Overviewsはこれらの情報を「事実」として収集し、検索結果の上部に表示してしまう。

被害者は企業名で検索し、AIが提示した電話番号を信頼して電話をかける。しかし、その番号は本物の企業ではなく、企業を装った詐欺師につながっているのだ。

日本でも類似の手口が懸念される。特に高齢者が多い日本社会では、AI検索結果を疑わずに信頼する傾向が強く、被害が拡大する可能性がある。

広告掲載について

問題の根本は、AIの情報処理方法にある。従来の検索エンジンは複数のリンクを表示し、ユーザーが自分で情報を検証することを前提としていた。しかし、AI Overviewsは「答え」を直接提示するため、ユーザーが情報源を確認する機会が減っている。

Googleは「スパム対策は非常に効果的で、AI Overviewsから詐欺を排除し、可能な限り公式のカスタマーサポート番号を表示している」と述べている。しかし、生成AIの本質的な特徴として、情報をそのまま転載するのではなく「加工」する傾向があり、これが新たなリスクを生んでいる。

セキュリティ研究者たちは、メールや文書に悪意のあるテキストを隠し、AIがそれを要約して提示する手法も確認している。この問題はGoogleだけでなく、他のAI検索エンジンでも発生している。

日本の金融機関や大手企業も、この新たな脅威に警戒を強めている。三菱UFJ銀行やNTTドコモのような企業は、顧客が偽の連絡先に騙されないよう、公式サイトでの連絡先確認を呼びかけている。

個人ができる対策は明確だ。AI Overviewsの情報、特に電話番号や具体的な事実については疑いの目を持つこと。企業への連絡が必要な場合は、必ず公式ウェブサイトから連絡先を確認する。一手間かかるが、詐欺被害を避けるには不可欠だ。

Googleも改善に取り組んでいるが、現在のところAI Overviewsを無効にする方法はない。ユーザーは結果をスクロールして無視するか、他の検索エンジンを使うしかない。