Google AI Overviews 醫療資訊爆嚴重錯誤:肝功能與癌症護理建議誤導患者
Google AI Overviews 爆出嚴重醫療資訊錯誤。針對肝功能檢查及胰臟癌護理的 AI 摘要因具誤導性,已在《衛報》調查後緊急刪除。了解 AI 醫療建議背後的潛在風險。
搜尋是為了求生,結果卻可能致命。Google近日緊急刪除了部分「AI Overviews」健康摘要。根據《衛報》調查發現,該生成式 AI 功能提供的醫療資訊荒腔走板,極可能導致重病患者產生健康幻覺,進而延誤就醫,後果不堪設想。
Google AI Overviews 健康數據缺乏脈絡導致風險倍增
調查指出,當用戶搜尋「肝功能檢查正常範圍」時,AI 僅羅列出ALT、AST等酶類數據,卻未能根據患者的年齡、性別或種族進行調整。專家警告,AI 定義的「正常值」與臨床標準大相徑庭,這讓數據解讀變得漏洞百出,患者可能在病情嚴重的情況下誤以為自己身體無恙。
| 搜尋項目 | AI 建議錯誤點 | 潛在風險 |
|---|---|---|
| 肝功能檢查 | 缺乏人口統計學脈絡 | 誤判健康狀態而漏診 |
| 胰臟癌護理 | 建議避開高脂食物 | 導致患者體重下降及體力不支 |
醫學建議南轅北轍:胰臟癌病患陷入飲食陷阱
更令人震驚的是關於胰臟癌的錯誤導向。AI 建議患者應避開高脂肪食品,但這與醫學界維持癌症病患體重的標準指南背道而馳。對於與病魔搏鬥的患者而言,這種資訊誤導無疑是雪上加霜。儘管 Google 已針對肝功能查詢進行限制,但仍有許多不準確的健康摘要在網路上流竄。
相关文章
Google宣布為AI Overviews新增「Further Exploration」與「Expert Advice」功能,將網站連結重新整合進AI搜尋結果。這對內容創作者、媒體與亞洲市場意味著什麼?
川普政府傳出考慮設立AI模型公開前審查機制,與此前去管制路線形成強烈對比。這對全球AI競爭格局、亞洲市場與華人科技業意味著什麼?
OpenAI發布三項即時語音API功能,涵蓋推理對話、70語言翻譯與即時轉錄。這不只是技術更新,而是語音介面正式成為AI競爭主戰場的訊號。
Google DeepMind倫敦總部員工以98%贊成票決議組建工會,核心訴求是阻止AI技術被用於以色列及美國軍事行動。這場抗議揭示AI產業正在撕裂的倫理斷層。
观点
分享你对这篇文章的看法
登录加入讨论