Google AI Overviews 醫療資訊爆嚴重錯誤:肝功能與癌症護理建議誤導患者
Google AI Overviews 爆出嚴重醫療資訊錯誤。針對肝功能檢查及胰臟癌護理的 AI 摘要因具誤導性,已在《衛報》調查後緊急刪除。了解 AI 醫療建議背後的潛在風險。
搜尋是為了求生,結果卻可能致命。Google近日緊急刪除了部分「AI Overviews」健康摘要。根據《衛報》調查發現,該生成式 AI 功能提供的醫療資訊荒腔走板,極可能導致重病患者產生健康幻覺,進而延誤就醫,後果不堪設想。
Google AI Overviews 健康數據缺乏脈絡導致風險倍增
調查指出,當用戶搜尋「肝功能檢查正常範圍」時,AI 僅羅列出ALT、AST等酶類數據,卻未能根據患者的年齡、性別或種族進行調整。專家警告,AI 定義的「正常值」與臨床標準大相徑庭,這讓數據解讀變得漏洞百出,患者可能在病情嚴重的情況下誤以為自己身體無恙。
| 搜尋項目 | AI 建議錯誤點 | 潛在風險 |
|---|---|---|
| 肝功能檢查 | 缺乏人口統計學脈絡 | 誤判健康狀態而漏診 |
| 胰臟癌護理 | 建議避開高脂食物 | 導致患者體重下降及體力不支 |
醫學建議南轅北轍:胰臟癌病患陷入飲食陷阱
更令人震驚的是關於胰臟癌的錯誤導向。AI 建議患者應避開高脂肪食品,但這與醫學界維持癌症病患體重的標準指南背道而馳。對於與病魔搏鬥的患者而言,這種資訊誤導無疑是雪上加霜。儘管 Google 已針對肝功能查詢進行限制,但仍有許多不準確的健康摘要在網路上流竄。
本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。
相关文章
Google將Fitbit帳戶遷移期限延長至2026年5月,數據刪除延至7月。背後是用戶流失壓力還是技術整合挑戰?
Google推出Auto Browse功能,讓AI代替用戶操作瀏覽器。然而測試結果顯示,當前技術精度不足,可能改變網路體驗的本質。對華人數位生態有何影響?
史丹佛大學研究揭露Civitai平台實況:Andreessen Horowitz投資的AI市場讓用戶買賣名人深偽製作檔案,92%請求獲得報酬。
Anthropic分析150萬筆AI對話,首次量化「用戶去權化」模式。雖然比例較低,但絶對數量仍構成重大問題,為AI安全敲響警鐘。
观点
分享你对这篇文章的看法
登录加入讨论