Liabooks Home|PRISM News
Google AI搜尋淪為詐騙溫床,為何人工智慧如此容易被騙?
科技AI分析

Google AI搜尋淪為詐騙溫床,為何人工智慧如此容易被騙?

3分钟阅读Source

Google AI Overviews出現假電話號碼,詐騙案例激增。探討AI搜尋便利性背後的安全隱憂及防範策略。

想要聯絡銀行客服,卻撥通了詐騙集團的電話。這不是科幻小說的情節,而是正在全球各地上演的真實案例。罪魁禍首,正是Google最新推出的AI Overviews功能。

當你在Google搜尋時,系統不再只是顯示傳統的連結清單,而是透過AI整理網路資訊,直接提供「答案」。這個看似貼心的功能,卻成了詐騙集團的新戰場。

詐騙手法大解析

根據華盛頓郵報Digital Trends報導,FacebookReddit上出現大量受害者投訴。美國多家信用合作社和銀行已開始向客戶發出警告。

詐騙集團的手法相當狡猾:他們在網路上的多個低調網站刊登知名企業名稱配上假電話號碼,AI Overviews便會抓取這些資訊,並將其包裝成「可信的答案」呈現給使用者。

受害者搜尋企業名稱尋找聯絡方式,信任AI提供的電話號碼並撥打,結果卻接通冒充該企業的詐騙集團,個資和金融資訊因此外洩。

這種手法對華人社會特別危險。在台灣、香港等地區,民眾對科技品牌的信任度較高,更容易相信Google等大公司提供的資訊,增加了受騙風險。

AI為何容易上當?

問題核心在於AI處理資訊的方式。傳統搜尋引擎提供多個連結,讓使用者自行驗證資訊;但AI Overviews直接給出「標準答案」,減少了使用者查證的動機。

Google聲稱其「反垃圾郵件保護系統非常有效,能將詐騙內容排除在AI Overviews之外,並盡可能顯示官方客服號碼」。然而,生成式AI的特性不是單純複製資訊,而是會「重新包裝」,這正是風險所在。

資安研究人員發現,惡意文字可以隱藏在電子郵件或文件中,AI抓取並摘要後呈現給使用者,而使用者往往將其視為準確可信的資訊。這個問題不僅出現在Google,其他AI搜尋引擎也面臨同樣挑戰。

亞洲市場的特殊考量

在亞洲市場,這個問題可能更加嚴重。中文使用者習慣依賴大型平台提供的資訊,對Google百度等搜尋引擎的信任度很高。加上語言和文化差異,詐騙集團更容易利用在地化的假資訊進行詐騙。

台灣的金融業者已開始關注這個趨勢。台灣銀行中華電信等機構提醒客戶,務必透過官方網站確認聯絡資訊,不要完全依賴搜尋結果。

防範策略很簡單但至關重要:對AI Overviews提供的具體資訊,特別是電話號碼,保持懷疑態度。需要聯絡企業時,直接造訪官方網站查詢聯絡方式。雖然多了一個步驟,但能有效避免詐騙風險。

Google正在改善系統,但目前使用者無法關閉AI Overviews功能。唯一的選擇是跳過AI摘要,直接查看傳統搜尋結果,或改用其他搜尋引擎。

本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。

观点

相关文章