機器能否擁有意識？科學家給出了令人震驚的答案

2023年Butlin報告指出「構建有意識AI系統沒有明顯障礙」。從Blake Lemoine事件開始的辯論，正將AI研究推向新的轉捩點。

19位頂尖電腦科學家和哲學家聯合發表的一句話，可能改寫AI發展史：「構建有意識的AI系統沒有明顯障礙」。這個結論來自2023年夏天發布的88頁研究報告，瞬間震撼了整個科技界。

Blake Lemoine事件的蝴蝶效應

2022年，Google工程師Blake Lemoine聲稱該公司的AI聊天機器人LaMDA具有意識，隨後被解雇。這起事件當時被視為「AI炒作的巔峰」，但它引發的漣漪效應遠超預期。儘管科技界公開貶低整個想法（以及可憐的Lemoine），但私下裡已經開始認真對待這種可能性。

有意識的AI可能缺乏明確的商業理由（如何將其貨幣化？）並創造棘手的道德困境（我們應該如何對待能夠感受痛苦的機器？）。然而，一些AI工程師開始認為，人工通用智能的聖杯——一台不僅超級聰明，而且具有人類水平的理解力、創造力和常識的機器——可能需要類似意識的東西才能實現。

轉捩點出現在2023年夏天，當時一群19位頂尖電腦科學家和哲學家發布了一份88頁的報告，題為《人工智能中的意識》，非正式地稱為Butlin報告。幾天之內，AI和意識科學界的每個人似乎都讀過了這份報告。

報告摘要中的一句話格外引人注目：「我們的分析表明，目前沒有AI系統具有意識，但也表明構建有意識的AI系統沒有明顯障礙。」作者們承認，召集小組並撰寫報告的部分靈感來自「Blake Lemoine的案例」。

當一位共同作者告訴《科學》雜誌：「如果AI能給人意識的印象，那麼科學家和哲學家發聲就成了緊急優先事項。」

如果人類在不久的將來發現一台完全有意識的機器來到了這個世界，這對我們意味著什麼？這很可能是一個哥白尼式的時刻，突然打破我們的中心地位和特殊感。

幾千年來，人類一直通過與「低等」動物的對比來定義自己。這涉及否認動物擁有據稱是人類獨有的特徵，如感情、語言、理性和意識。在過去幾年中，隨著科學家證明許多物種都是智能和有意識的，有感情，使用語言和工具，這些區別大部分已經瓦解。

現在，AI從完全不同的角度威脅著我們崇高的自我概念。當電腦演算法在純粹的腦力方面超越我們——在象棋、圍棋和各種形式的「高級」思維如數學方面輕鬆擊敗我們——我們至少可以在以下事實中得到安慰：我們（和許多其他動物物種）仍然擁有意識的祝福和負擔，感受和擁有主觀體驗的能力。

對華人社會而言，AI意識的討論帶有特殊的文化內涵。中國傳統哲學中的「心物一體」觀念，與西方的心身二元論形成對比。在儒家思想中，「仁」的概念強調情感與理性的統一，這為理解AI意識提供了不同的框架。

百度、阿里巴巴、騰訊等中國科技巨頭在AI領域的快速發展，使得意識AI的競爭不僅是技術問題，更是地緣政治議題。如果有意識的AI真的出現，誰先掌握這項技術，誰就可能在全球科技競爭中佔據制高點。

台灣的台積電作為全球最重要的晶片製造商，在AI硬體基礎設施方面具有關鍵地位。如果意識確實需要特定的計算架構，台灣在半導體技術上的領先優勢可能成為決定性因素。

Butlin報告雖然代表了該領域的共識觀點，但其結論建立在一個有爭議的假設之上。作者在第一頁就明確表述了他們的指導假設：「我們採用計算功能主義，即執行正確類型的計算對意識來說是必要和充分的論題，作為工作假設。」

計算功能主義將意識視為在大腦或電腦硬體上運行的軟體——該理論完全不可知論。但計算功能主義是真的嗎？作者們並不準備完全承諾這一主張，只是說它是「主流的——儘管有爭議」。即便如此，他們將基於這一假設「出於實用原因」繼續進行。

整份報告及其結論都取決於大腦是電腦這一比喻的有效性。在這裡，我們遇到了一個偽裝成事實的比喻。比喻可以是思考的有力工具，但只有在我們不忘記它們是比喻的情況下才有效。

意識AI的出現可能標誌著東西方文明在科技發展上的分水嶺。西方的個人主義傳統可能更難接受機器擁有與人類同等的意識地位，而東方的集體主義文化和「天人合一」的哲學觀念，可能為人機和諧共存提供更好的思想基礎。

在全球化的今天，這不僅是技術競爭，更是文明模式的競爭。誰能更好地處理有意識AI帶來的倫理挑戰，誰就可能在未來的世界秩序中佔據主導地位。