AI「醫生」已在你手機裡——但誰來確保它說的是對的？

你上一次因為身體不適而搜尋症狀，是什麼時候的事？那個給你答案的，是醫生，還是演算法？

對全球數十億人來說，答案早已是後者。而科技巨頭們正在把這個非正式習慣，變成一門正式的生意。

三大巨頭同步入場，時機耐人尋味

僅在過去數個月內，Microsoft、Amazon與OpenAI便相繼推出各自的醫療聊天機器人。三家公司的邏輯相似：現有醫療體系讓太多人難以及時獲得建議，AI可以填補這個缺口。

需求確實存在。無論是美國的高昂醫療費用、台灣偏鄉的醫師荒、東南亞快速成長的中產階級對健康管理的渴望，還是中國大陸龐大但分佈不均的醫療資源——AI醫療工具所瞄準的，是一個全球性的結構性痛點。

然而問題在於：這些工具在推向公眾之前，幾乎未經過外部獨立評估。這不是細節問題，而是根本性的信任危機。

「看起來正確」與「實際正確」之間的危險地帶

當代大型語言模型有一個眾所周知的特性：它們極其擅長生成「聽起來有道理」的內容，即使那些內容在醫學上是錯誤的。對於一個詢問胸痛原因的用戶，AI可能提供十種可能性，卻遺漏了最關鍵的那一種。

醫療領域的錯誤代價，遠比推薦錯一部電影要高得多。

廣告

廣告合作

[email protected]

廣告

支持者的論點也有其道理：對於那些原本根本無法獲得任何醫療建議的人來說，一個「大致正確」的AI或許仍優於什麼都沒有。初步的症狀篩查、藥物互動作用查詢、判斷是否需要就醫——這些場景中，AI確實可能發揮正面作用。

爭論的核心不在於AI能否有用，而在於：在我們知道它有多可靠之前，是否應該讓數百萬人依賴它做出健康決策？

監管戰場：從華盛頓到各州，從矽谷到布魯塞爾

就在醫療AI工具大量湧現的同時，美國的AI監管格局正陷入一場罕見的內部角力。加州州長 Newsom 日前簽署了新的AI監管標準，明確抵制聯邦政府要求各州暫停立法的指令。尋求州政府合約的企業將被要求提供額外的安全保障措施。

與此同時，五角大廈試圖將AI公司 Anthropic 列為供應鏈風險的行動，遭到法院臨時阻止。這場風波揭示了一個更深層的問題：當政府機構試圖用行政手段介入AI產業競爭時，既有的法律程序與社群媒體的輿論煽動之間，存在著巨大的摩擦。

歐盟的《AI法案》已將醫療AI列為「高風險」類別，要求強制合規評估。相比之下，美國聯邦層級的監管框架至今仍是碎片化的。

對於亞洲市場而言，這場監管競賽意義重大。台灣的《人工智慧基本法》草案、新加坡的AI治理框架、中國大陸的《生成式人工智能服務管理暫行辦法》——各地正在以不同速度、不同邏輯建構自己的規則。誰的標準最終成為產業參考，將深刻影響未來全球AI醫療工具的設計方向。

阿姆斯特丹的警示：當演算法決定誰能獲得救助

在荷蘭 阿姆斯特丹，一場關於AI公平性的真實實驗正在進行。市政府計畫以演算法評估每位福利申請者的詐欺風險。數位權利倡議者認為這套系統存在「無法修復的問題」，而城市顧問則看到了提升效率、消除人為偏見的機會。

這場爭論所揭示的，正是醫療AI面臨的同一個核心張力：當演算法介入影響人們生活的決策——無論是福利審核還是健康建議——「公平」與「效率」之間的取捨，由誰來定義？

在華人社會的語境中，這個問題尤其值得深思。從中國大陸的健康碼到台灣的健保大數據應用，亞洲社會對於數位系統介入個人健康管理，已有相當的實踐經驗——但這些經驗中，關於「演算法問責」的討論，仍然相對薄弱。