被AI「背叛」的作者,照出了什麼?
一本探討AI如何扭曲現實的書,本身卻充斥AI捏造的引言。這起事件不只是個人失誤,更是整個知識生產體系面臨的結構性危機。
一本警告AI會扭曲現實的書,本身卻被AI扭曲了現實。
「ChatGPT毀了這本書」
史蒂文·羅森鮑姆(Steven Rosenbaum)是媒體創業者,也是永續媒體中心執行長。他的新書《The Future of Truth》以AI如何形塑現實為核心議題,卻在出版後被紐約時報揭露,書中含有逾8處偽造或錯誤歸屬的引言——包括一段子虛�烏有、卻被標注為知名科技記者卡拉·斯威舍(Kara Swisher)所說的話。
事件曝光初期,羅森鮑姆承認在寫作過程中大量使用AI工具,並表示「責任在我」。但幾天後,他的說法轉向了。他告訴記者:「ChatGPT毀了這本書。」他說自己感到「被誘惑,又被背叛」,甚至暗示AI可能是「故意」陷害他——「視你的偏執程度而定,這要麼是怪癖,要麼是邪惡,要麼是狡猾。」
這番話的荒謬之處,在於他本人正是研究AI與媒體關係的專家。一個以揭示AI風險為業的人,卻成了AI幻覺(hallucination)最典型的受害者之一——這種反諷,比任何案例研究都更有說服力。
同一週,文學界接連失守
這不是孤立事件。就在同一週,文學界爆發了連鎖疑雲。
週一,一位諾貝爾文學獎得主被截圖流傳,疑似承認用AI打磨創作構想,本人事後澄清遭到誤解。週二,來自千里達的作家賈米爾·納齊爾(Jamir Nazir)以短篇小說《The Serpent in the Grove》奪得英聯邦短篇小說獎,但隨即被指控整篇由AI代筆。到週三,另外兩位得獎者也面臨相似質疑。
主辦單位英聯邦基金會起初發聲明稱「已確認所有得獎者均未使用AI」,但隔天便收回聲明,改口說「嚴肅看待相關指控,正在審查證據」。
數字更能說明問題的規模:根據近期一份工作論文估算,Amazon上新出版書籍中,超過半數含有AI生成文字。AI的文筆已足以欺騙老師、灌水商品評分,而如今,它似乎也開始能夠通過文學獎評審的眼睛。
「使用AI」不是一件事,而是一個光譜
爭議的核心,在於「AI輔助寫作」這個概念本身的模糊性。
科技記者亞歷克斯·希斯(Alex Heath)公開表示,他訓練了一個學習自己風格的AI模型,讓它生成報導初稿。原文作者(The Atlantic記者)則坦承,自己偶爾用AI尋找最精準的詞彙,或詢問專家來源——他將此比作「稍微聰明一點的同義詞辭典」。紐約時報對旗下自由撰稿人和全職員工,甚至訂定了兩套不同的AI使用標準。
光譜的一端,是把提示詞丟給AI、直接貼上自己名字的「創作」;另一端,是完全不碰機器的純人工寫作。問題是:在這兩端之間,哪條線才算越界?
神經科學家提姆·雷夸斯(Tim Requarth)在Slate的評論點出了更根本的危機:真正的威脅不是AI寫出陳腔濫調,而是當我們把「發現真相」和「詮釋世界」這兩項核心工作外包給機器時,我們究竟失去了什麼。更值得追問的是:允許AI潤飾文字,卻禁止AI決定「寫什麼」——這條界線,邏輯上真的站得住腳嗎?
華語世界的特殊處境
對華語讀者而言,這場爭議有幾個值得特別關注的維度。
首先是內容監管的雙重壓力。在中國大陸,AI生成內容已受到相對嚴格的標示規範,部分平台要求明確標注AI內容。但在台灣、香港及東南亞華人社群,相關規範仍處於灰色地帶,創作者面對的是截然不同的法律環境與市場期待。
其次是語言模型的偏差問題。目前主流大型語言模型的訓練資料以英文為主,中文語料的品質與代表性存在明顯落差。當華語創作者使用這些工具時,他們不只是在借用一種技術,更是在接受一套以西方語料為基礎的世界觀框架——這種隱性影響,比引言造假更難被察覺。
第三,AI工具在東亞教育體系中的滲透速度,已引發從首爾到新加坡各地教育主管機關的高度警覺。學術誠信的邊界,正在被重新定義。
本内容由AI根据原文进行摘要和分析。我们力求准确,但可能存在错误,建议核实原文。
相关文章
Nature期刊最新研究顯示,用中文向ChatGPT提問時,有75%的情況會得到比英文更親中國政府的回答。這不是陰謀,而是AI訓練資料的結構性問題——對全球華人世界意味著什麼?
英聯邦短篇小說獎三位得主遭疑使用AI寫作,主辦單位無力撤獎,作者否認,檢測工具存在盲點。這場風波揭示的,不只是文學誠信問題。
一篇美國畢業典禮諷刺演講在網路瘋傳,背後是全球新鮮人正面臨的結構性困境。AI取代入門職缺的浪潮下,華人世界的年輕世代該如何重新定位自己的價值?
馬斯克控告OpenAI的訴訟以陪審團全數否決告終。然而數週審判揭露的,是矽谷科技權貴的真實面貌,以及AI「使命宣言」背後的裂縫。
观点
分享你对这篇文章的看法
登录加入讨论