Google AI Overview 錯誤醫療資訊引發危機：衛報揭露致命建議

AI 建議竟然可能致命。根據《衛報》的一項調查顯示，Google 的 AI 搜索功能「AI Overview」在回答某些醫療查詢時，提供了具有誤導性甚至是完全錯誤的資訊。目前，這些錯誤的搜索結果在報導曝光後似乎已被移除。

Google AI Overview 錯誤醫療資訊的危險案例

在調查中發現的一個極端案例被專家形容為「極其危險」。AI 錯誤地建議胰臟癌患者應避免攝取高脂肪食物。然而，專家指出這與醫學界的正式建議背道而馳，對於急需營養支撐的患者而言，這種建議可能會大幅增加其死亡風險。此外，AI 在肝功能等關鍵醫療數據上也提供了虛假資訊，令公眾對 AI 醫療諮詢的安全性產生強烈質疑。

廣告

廣告合作

[email protected]

廣告

創新與安全的權衡取捨

儘管 AI 技術進步突飛猛進，但在醫療領域的應用依然「危機四伏」。針對此次事件，業界呼籲科技巨頭應對 AI 生成內容建立更嚴格的審查機制。Google 雖然迅速採取行動移除內容，但這已對其品牌信譽造成衝擊。在事關人命的領域，準確性顯然比生成速度更加舉足輕重。