Google AI Overviews 醫療資訊爆嚴重錯誤:肝功能與癌症護理建議誤導患者
Google AI Overviews 爆出嚴重醫療資訊錯誤。針對肝功能檢查及胰臟癌護理的 AI 摘要因具誤導性,已在《衛報》調查後緊急刪除。了解 AI 醫療建議背後的潛在風險。
搜尋是為了求生,結果卻可能致命。Google近日緊急刪除了部分「AI Overviews」健康摘要。根據《衛報》調查發現,該生成式 AI 功能提供的醫療資訊荒腔走板,極可能導致重病患者產生健康幻覺,進而延誤就醫,後果不堪設想。
Google AI Overviews 健康數據缺乏脈絡導致風險倍增
調查指出,當用戶搜尋「肝功能檢查正常範圍」時,AI 僅羅列出ALT、AST等酶類數據,卻未能根據患者的年齡、性別或種族進行調整。專家警告,AI 定義的「正常值」與臨床標準大相徑庭,這讓數據解讀變得漏洞百出,患者可能在病情嚴重的情況下誤以為自己身體無恙。
| 搜尋項目 | AI 建議錯誤點 | 潛在風險 |
|---|---|---|
| 肝功能檢查 | 缺乏人口統計學脈絡 | 誤判健康狀態而漏診 |
| 胰臟癌護理 | 建議避開高脂食物 | 導致患者體重下降及體力不支 |
醫學建議南轅北轍:胰臟癌病患陷入飲食陷阱
更令人震驚的是關於胰臟癌的錯誤導向。AI 建議患者應避開高脂肪食品,但這與醫學界維持癌症病患體重的標準指南背道而馳。對於與病魔搏鬥的患者而言,這種資訊誤導無疑是雪上加霜。儘管 Google 已針對肝功能查詢進行限制,但仍有許多不準確的健康摘要在網路上流竄。
相关文章
Anthropic發布Opus 4.8,距上一版本僅41天。核心賣點不是更高分數,而是主動標記不確定性的能力。這個設計選擇,正在重新定義企業AI的信任標準。
美國司法部起訴Google資深工程師,指控其利用公司機密資料在Polymarket獲利逾120萬美元。區塊鏈的透明性讓犯罪無所遁形,但預測市場的監管灰色地帶仍是全球難題。
教宗良十四世發布首份AI通諭,Anthropic共同創辦人受邀出席。這場宗教與科技的結盟,揭示了AI治理最核心的權力問題。
Google I/O後,Sundar Pichai接受專訪談AI搜尋轉型、AGI時程與網路生態系衝擊。這對華人媒體、創作者與科技業意味著什麼?
观点
分享你对这篇文章的看法
登录加入讨论