當演算法替你做決定：AI時代的自主性危機

從康德的自律概念到生物學的自我生成理論，哲學、神經科學與AI倫理的交匯點上，一場關於「人類主體性」的根本辯論正在展開。這對華人世界意味著什麼？

瑞典隆德大學的實驗室裡，受試者被悄悄換掉了自己選擇的照片。他們沒有發現。更令人不安的是：他們開始滔滔不絕地解釋，為何「自己」做出了那個從未做過的選擇。

這不只是認知科學的趣聞。在演算法每秒重塑我們資訊環境的今天，這個場景正在數十億支手機螢幕上，以不同的形式重演。

「自律」的哲學遺產與它的裂縫

十八世紀，康德將自律確立為人類尊嚴的基石。在他的框架中，真正的人類主體是「完全理性的行動者」，意志凌駕於自然之上，能夠為自己立法。這個概念深刻塑造了西方自由民主制度的法律架構，從醫療知情同意到刑事責任的法律推定，都建立在「人是自主的自我立法者」這一前提之上。

然而哲學家科內利烏斯·卡斯托里亞迪斯在生命晚期直接點破了這個幻象：「認為一個人若完全不受外部影響、完全自發，就是自律的——這根本是無稽之談，是哲學幻想。自律是一個持續進行中的過程。」

神經科學家本傑明·利貝特在1980年代的實驗更具體地動搖了這個基礎：腦電圖顯示，大腦準備手指動作的信號，比受試者「意識到想動」早了數百毫秒。我們以為自己「決定」的瞬間，大腦可能早已啟動。心理學家丹尼爾·卡尼曼的研究則區分了快速自動的「系統一」與緩慢審慎的「系統二」，並證明當心智被佔據或超載時，系統一主導行為——而這恰恰是許多數位環境刻意製造的狀態。

生物學的另一條路：自律作為過程

生物學家弗朗西斯科·瓦雷拉在1980年代提出了截然不同的視角。他與烏姆貝托·馬圖拉納共同發展的「自我生成（autopoiesis）」概念，將生命體的自律理解為：在與環境的持續互動中，不斷自我生產與再生的過程。

這不是笛卡兒式的「輸入—輸出機器」，而是一個組織上封閉、卻在物質上與環境持續交換的循環系統。瓦雷拉寫道：「凡是存在著從背景中區分自身的感知，以及通過認知行動應對該背景的能力，自律便存在其中。」

1991年，瓦雷拉與埃文·湯普森、埃莉諾·羅施合著《具身心智》，進一步論證：認知是「具身的行動」，不可分割於執行它的活生生的身體。他們甚至援引佛教「緣起（pratītyasamutpāda）」的概念——萬物相互依存地生起——來挑戰西方「超驗自我」的幻象。這個選擇耐人尋味：東方哲學傳統在此不是異域裝飾，而是對西方主流認識論的實質性補充。

廣告合作

[email protected]

這對華人讀者或許有特殊的共鳴。儒家傳統從未將個體視為孤立的自我立法者，而是將人置於關係網絡之中。「仁」的實現依賴於與他人的關係，而非對關係的超越。這與瓦雷拉的「有機體與環境共同構成彼此」的洞見，存在深層的結構性呼應。

演算法不是在「說服」你，而是在「設計」你

法學教授凱倫·楊將當代AI驅動的影響機制稱為「超級助推（hypernudging）」：它不是向主體呈現訊息，而是持續重構主體行動、感知與形成偏好的環境本身。這在實時進行，在次個人層面運作，沒有任何單一可識別的作者或意圖。

這與傳統說服的本質差異不在程度，而在種類。 一篇政治演講可以被事實查核，一則廣告可以被識別，一本書可以被拒絕。但一個演算法系統在你意識到之前，就已經重塑了你所處的認知環境。

這種「演算法治理術」——通過數據驅動的行為調節來行使權力，在審議開始之前就重塑可能行動的場域——對華人世界有著複雜的意涵。

在中國大陸，平台治理與國家監管的深度交織，使得「演算法透明度」的問題更加複雜：當演算法既服務於商業目的，又嵌入治理邏輯時，「誰在設計認知環境」這一問題的答案，比西方語境更為多元。在台灣，面對AI生成的政治假訊息，公民社會已形成相對活躍的事實查核生態，但這能否對抗個人化演算法的精準投放，仍是開放的問題。在香港與東南亞華人社群，數位平台的跨境性質使得任何單一監管框架都難以完整覆蓋。

「思想人身保護令」：保護認知自主的新框架

如果說「人身保護令（habeas corpus）」保護了身體自由，那麼「habeas cogitationem（思想人身保護令）」的概念，正在試圖為認知自主提供類似的法律基礎。

國際社會的回應已初具輪廓。UNESCO敦促成員國將精神完整性納入人權保護。OECD38個成員國於2019年通過神經技術負責任創新建議。2024年，歐盟《AI法》明確禁止潛意識操控與欺騙性操縱。2021年，智利率先將神經數據保護寫入憲法，賦予其與身體器官同等的法律地位。

然而批評者指出，這些框架過度聚焦於直接植入腦部的神經技術，而對已大規模滲透日常生活的AI推薦系統關注不足。

對弱勢群體的影響尤為值得關注。兒童的認知能力仍在發展中，依賴具身探索與社會互動；神經多樣性人士面臨被以神經典型規範訓練的AI系統覆蓋其獨特認知模式的風險；老年人則更容易對AI策展的資訊失去批判距離。而前額葉皮質的成熟可能延續至三十歲以後，意味著AI主導的環境可能干預年輕成人審慎能力的形成本身。

哲學家朱迪思·巴特勒提醒我們：我們是以脆弱身體被拋入世界的存在，任何規範框架都無法簡單抹去這種脆弱性。保護自主性，必須從承認脆弱性開始，而非從自我主權的幻象出發。

真正的挑戰，因此不是為「獨立的自我立法者」提供更多保護，而是重新設計認知環境本身——確保人類與AI的共同演化，不以犧牲持續注意力、應對複雜性的能力以及後設認知調節能力為代價。