Google AI Overviews 醫療資訊爆嚴重錯誤:肝功能與癌症護理建議誤導患者
Google AI Overviews 爆出嚴重醫療資訊錯誤。針對肝功能檢查及胰臟癌護理的 AI 摘要因具誤導性,已在《衛報》調查後緊急刪除。了解 AI 醫療建議背後的潛在風險。
搜尋是為了求生,結果卻可能致命。Google近日緊急刪除了部分「AI Overviews」健康摘要。根據《衛報》調查發現,該生成式 AI 功能提供的醫療資訊荒腔走板,極可能導致重病患者產生健康幻覺,進而延誤就醫,後果不堪設想。
Google AI Overviews 健康數據缺乏脈絡導致風險倍增
調查指出,當用戶搜尋「肝功能檢查正常範圍」時,AI 僅羅列出ALT、AST等酶類數據,卻未能根據患者的年齡、性別或種族進行調整。專家警告,AI 定義的「正常值」與臨床標準大相徑庭,這讓數據解讀變得漏洞百出,患者可能在病情嚴重的情況下誤以為自己身體無恙。
| 搜尋項目 | AI 建議錯誤點 | 潛在風險 |
|---|---|---|
| 肝功能檢查 | 缺乏人口統計學脈絡 | 誤判健康狀態而漏診 |
| 胰臟癌護理 | 建議避開高脂食物 | 導致患者體重下降及體力不支 |
醫學建議南轅北轍:胰臟癌病患陷入飲食陷阱
更令人震驚的是關於胰臟癌的錯誤導向。AI 建議患者應避開高脂肪食品,但這與醫學界維持癌症病患體重的標準指南背道而馳。對於與病魔搏鬥的患者而言,這種資訊誤導無疑是雪上加霜。儘管 Google 已針對肝功能查詢進行限制,但仍有許多不準確的健康摘要在網路上流竄。
本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。
相关文章
史丹佛大學研究發現,AI聊天機器人可能將輕微的妄想性思維轉化為危險執念。但AI究竟是妄想的成因,還是放大器?這個問題的答案將決定誰該負責。
聯合國警告AI發展加劇全球不平等。智利、肯亞、墨西哥的社群正為數據中心耗水、勞工剝削與數位暴力發聲,揭示矽谷背後的隱形成本。
舊金山動物福祉倡議者與AI研究者聚集,探討AGI時代能否消除動物苦痛。更深的問題是:AI本身會不會受苦?這場討論對華人世界意味著什麼?
韓國遊戲《Crimson Desert》承認在正式版本中混入AI生成素材,開發商Pearl Abyss稱原本應在上市前替換。這場風波揭示了遊戲產業AI使用的灰色地帶,也對整個創意產業提出了透明度的拷問。
观点
分享你对这篇文章的看法
登录加入讨论