輝達GTC 2026:AI基礎設施的下一場卡位戰
輝達(Nvidia)GTC 2026開幕,傳出推論加速新晶片、企業AI代理平台NemoClaw及Groq併購細節。當AI訓練市場已定,推論市場的爭奪才剛開始,亞洲科技版圖將如何重塑?
80%。這是輝達在AI訓練晶片市場的估計佔有率。但這場仗,可能已經打完了。
2026年3月16日,輝達(Nvidia)執行長黃仁勳在加州聖荷西SAP中心登台,為一年一度的GTC開發者大會揭幕。這場為期四天(3月16日至19日)的年度旗艦活動,歷來是輝達宣示技術方向、鞏固產業地位的最重要舞台。今年,外界的目光聚焦在一個核心問題:輝達能否將其在訓練市場的壟斷優勢,複製到AI的下一個戰場——推論(Inference)。
從「訓練」到「推論」:戰線的轉移
要理解這場競爭,需要先釐清兩個概念。AI「訓練」是讓模型從海量數據中學習的過程,耗費龐大算力,輝達的GPU在此幾乎無可替代。而「推論」則是訓練完成的模型實際運作的過程——當你向ChatGPT提問,它生成回答的那一刻,就是推論。
推論所需的算力遠低於訓練,但它每天在全球發生數十億次。對企業而言,推論的速度與成本,直接決定了AI服務是否具備商業可行性。據悉,輝達此次GTC將發布專為加速推論設計的新型晶片,目標是降低推論成本、提升吞吐量,打通AI大規模商業應用的最後一道瓶頸。
在軟體層面,據《連線》雜誌(Wired)報導,輝達計劃開源發布企業級AI代理平台「NemoClaw」。這套平台旨在為企業提供一套標準化的框架,用以構建和部署能夠自主執行多步驟任務的AI代理——例如自動完成採購流程、生成財務報告、或協調跨部門工作。這直接對標OpenAI等公司已在推進的企業AI代理服務。
兩兆元的押注:Groq併購的深層邏輯
本次GTC另一個關注焦點,是輝達與推論新創公司Groq的關係。據報導,輝達去年底支付了約200億美元(約新台幣6.5兆元)取得Groq的技術授權,且Groq創辦人Jonathan Ross、總裁Sunny Madra等核心團隊已加入輝達。
Zacks Investment Research資深策略師Kevin Cook表示,市場對這筆交易的全貌高度關注。Groq以其自研的LPU(語言處理單元)架構著稱,在推論速度上展現出與GPU截然不同的路線。輝達此舉,被普遍解讀為在推論市場防禦性佈局——畢竟,Google、Amazon等科技巨頭早已在開發自有推論晶片,試圖擺脫對輝達的依賴。
亞洲視角:這場競爭與我們有什麼關係?
從亞洲、特別是華人科技圈的角度來看,這場競爭牽涉幾個值得深思的維度。
首先是供應鏈與出口管制的現實。美國對中國大陸的先進晶片出口限制持續收緊,輝達的H系列、B系列高端GPU均受到不同程度的限制。若輝達的推論新晶片同樣列入管制清單,中國大陸企業將面臨更高的AI基礎設施成本,或被迫加速自研替代方案——華為的昇騰系列、寒武紀等本土晶片廠商或因此獲得更大的市場空間。
其次是台灣的角色。輝達的晶片製造高度依賴台積電(TSMC),這一結構性依賴在地緣政治緊張的背景下,始終是供應鏈風險的核心議題。輝達能否在推論市場建立新的護城河,某種程度上也取決於台積電先進製程的產能能否持續支撐。
對台灣、香港、東南亞的科技業者而言,輝達推論生態的擴張,意味著更多的合作機會——但也意味著更深的技術依賴。當一家公司同時掌握訓練與推論兩端的基礎設施,整個AI產業鏈的定價權,將進一步向矽谷集中。
相關文章
輝達2024年在自家晶片裡植入約10億個開放指令集RISC-V核心,2025年並宣布要讓CUDA跑在RISC-V之上。本文解剖免權利金的開放標準與開源軟體堆疊,如何反擊、繞過CUDA的鎖定效應。半導體主權戰爭系列第二部。
美國的AI晶片出口管制,在2026年上半年裂成三層:1月放寬、5月封堵繞道、審議中的法案。輝達把中國從財報抹去,仍締造單季816億美元的最高營收。本文解剖這套既是盾牌也是枷鎖的出口政策。
超微(AMD)新款AI晶片MI325X在記憶體、頻寬全面看齊甚至超車輝達,但輝達資料中心AI加速器市佔率依然穩守86~92%。真正的護城河,是耕耘近20年的CUDA軟體生態系。半導體主權戰爭系列第一部,解析輝達為何屹立不搖。
Anthropic於6月30日推出中價位代理模型Claude Sonnet 5。在「Opus級性能、低價位」的標題背後,我們拆解斷詞器實際支出與三強鼎立的真相。
觀點
分享您對這篇文章的看法
登入加入討論