Notion AI 代理人開發新思路：拋棄複雜數據結構，回歸純文字與 Markdown

越複雜越強大？Notion AI用行動推翻了這個工程迷思。工程負責人Ryan Nystrom指出，團隊在開發 V3 版本時，經歷了一場翻天覆地的架構重組。他們捨棄了深奧的 JSON 或 XML 架構，改用人類可讀的 Markdown 格式，結果卻讓 AI 性能突飛猛進。

Notion AI 代理人開發的「重塑」之旅

作為傳統軟體工程師，Nystrom 習慣於極度確定性的系統。然而，在開發 AI 代理人（Agents）時，他意識到 LLM（大型語言模型） 的強項在於理解與推理。與其用複雜的規則束縛模型，不如像跟人對話一樣，給予簡單直白的指令。這種從「程式化」轉向「對話化」的策略，成為其客製化 AI 代理人成功的關鍵。

廣告

廣告合作

[email protected]

廣告

精簡與節制：尋找性能的黃金平衡點

在優化過程中，團隊發現過多的上下文（Context）反而會導致模型反應遲鈍、準確度下降。經過反覆測試，他們發現 10 萬至 15 萬個 Token 是最理想的「甜點區」（Sweet Spot）。此外，他們在功能提供上也秉持節制原則，不提供過於龐雜的工具菜單，以免模型在決策時陷入選擇困境，確保系統運作更加舉足輕重。