科技
OpenAI 與 Cerebras 750MW 合作:打造 ChatGPT 即時運算的新紀元
2分钟阅读Source
OpenAI 宣布與 Cerebras 合作導入 750MW 高速算力,大幅提升 ChatGPT 推理速度並降低延遲,鎖定即時 AI 運算市場。
AI 推理速度將迎來翻天覆地的變化。OpenAI宣布與晶片大廠Cerebras達成合作,正式導入高達750MW的高速 AI 算力,致力於解決目前 AI 應用的核心痛點:延遲。
OpenAI 與 Cerebras 750MW 合作細節解析
根據路透社報導,這項規模龐大的合作案旨在透過Cerebras獨特的晶圓級引擎技術,顯著降低ChatGPT在處理大規模即時任務時的推理延遲。這750MW的電力負載將支撐起全新的 AI 基礎設施,讓用戶在進行語音對話或複雜程式開發時,能獲得近乎零延遲的反饋。
擺脫延遲束縛:即時 AI 運算的突飛猛進
隨著生成式 AI 走入企業核心業務,穩定的即時運算能力已成為兵家必爭之地。OpenAI此次布局顯示其不再單一依賴傳統 GPU 供應商,而是採取多元化的硬體策略。這不僅能大幅提升ChatGPT在高負載環境下的表現,更能為未來更具互動性的 AI 代理人(AI Agents)鋪平道路。
相关文章
科技CN
YouTube用AI幫你找影片:便利背後藏著什麼?
YouTube推出AI自訂動態消息功能,用戶輸入文字描述即可生成個人化影片清單。這項改變對內容創作者、廣告主與亞洲市場意味著什麼?
科技CN
「晶片女王」的宣言:制裁逼出另一條路
華為旗下海思半導體提出「Tau縮放定律」,宣稱將以系統級設計優化取代摩爾定律,目標2031年達到1.4奈米相當效能。這對台積電、台灣及整個華人科技圈意味著什麼?
科技CN
Meta開始收費:免費社群媒體時代正在終結?
Meta宣布在全球推出Instagram、Facebook、WhatsApp付費訂閱方案,並測試Meta AI訂閱服務。這對亞洲用戶、華人社群與數位廣告產業意味著什麼?
科技CN
美國砸200億投資量子運算,國會卻說違法
美國政府宣布對量子運算企業投資20億美元,但國會議員質疑資金挪用違法。IBM聯合政府成立新公司Anderon,量子硬體生態系正在重塑。亞洲科技競局如何因此改變?
观点
分享你对这篇文章的看法
登录加入讨论