Google 推出第八代 TPU 晶片:效能與價格比提升,並分離訓練與推理

Gate News 訊息,4 月 22 日——Google Cloud 宣布於 4 月 22 日發布其第八代自研自建的 TPU (Tensor Processing Unit) 晶片。新版陣容包含 TPU 8t,專為 AI 訓練任務設計,以及 TPU 8i,針對 AI 推理工作負載進行最佳化。兩款晶片都將在今年稍後提供。Google 也推出用於建置 AI 代理的新工具,並宣布一項 $750 百萬級基金,以推動企業採用 AI。

TPU 8t 在相同價格點下,提供比 Google 先前世代 Ironwood TPU 高 2.8 倍的效能。TPU 8i 相較於前代提升 80% 的效能,並採用靜態隨機存取記憶體 (SRAM) 架構,以實現「具成本效益的大規模吞吐與低延遲,讓數百萬個代理能同時運行」,根據執行長 Sundar Pichai 的說法。相較於 Ironwood,TPU 8t 與 TPU 8i 均達成超過雙倍的每瓦效能效率,其中 TPU 8t 提升 124%,TPU 8i 提升 117%。Google 在整個技術堆疊中最佳化電源效率,並整合動態電源管理系統,能根據即時需求調整用電量。

Google 的自家模型目前透過直接客戶 API 呼叫,每分鐘處理超過 1600 億個 tokens;相比上個季度的 1000 億增長。如今在 Google,AI 生成了 75% 的所有新增程式碼;而去年秋季為 50%。Google 的企業產品 Gemini Enterprise,在付費月活用戶方面按季成長 40%。該公司預期,到 2026 年,將把略超過其機器學習運算預算的一半投資於雲端服務,以更好地服務雲端客戶與合作夥伴。Google 也在擴大與 Broadcom 的合作,為未來世代開發並供應客製化 TPU 晶片,因為主要科技公司正尋求 NVIDIA 與 AMD 成本高且供應受限的 GPU 之替代方案。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

OpenAI 任命前 Airbnb 高階主管 Emmanuel Marill 負責領導 EMEA 擴張

OpenAI 聘請 Emmanuel Marill 擔任 EMEA 管理董事,以在主權疑慮與來自 Mistral AI 的競爭中推動擴張;EMEA 訂閱量正在上升。 摘要:OpenAI 指派 Emmanuel Marill 擔任歐洲、中東與非洲(EMEA)管理董事,以在主權疑慮與歐盟審查下加速擴張。此舉緊隨 EMEA 訂閱量上升,旨在打造更穩固的在地據點,以對抗 Mistral AI 等競爭對手.

GateNews5分鐘前

Thinking Machines Lab 與 Google 簽下數十億美元級雲端交易

Gate News 消息,4 月 23 日——Thinking Machines Lab 是一家由前 OpenAI 高管 Mira Murati 創立的 AI 新創公司,已與 Google Cloud 簽署一項價值達單位數十億美元的雲端基礎設施合作協議。該協議代表該公司首次與大型雲端供應商建立合作關係

GateNews15分鐘前

SK 海力士首季營業利潤飆升 406%,創紀錄,因 AI 晶片需求強勁

SK 海力士公布第一季營業利潤為 37.6 兆韓元、營收為 52.6 兆韓元,因受 AI 驅動需求帶動 DRAM 與 NAND 成長,且轉向即時推論,漲幅顯著。

GateNews1小時前

OpenAI 在與 SpaceX 及 Anthropic 的競賽中達成 $1 兆美元準IPO估值

OpenAI 透過鏈上押注接近一個 $1T 隱含的準IPO;隨著 AI 基礎設施成本飆升,SpaceX 和 Anthropic 目標估值相近,推動訂閱收入,同時 Anthropic 面臨定價上的混淆。

GateNews2小時前

DeepSeek估值飆升超越$20 Billion,騰訊與阿里巴巴評估投資

DeepSeek尋求 >$20B 作為騰訊/阿里巴巴在討論投資;英偉達警告稱,美國的晶片先進地位可能會被華為削弱;隨著Vast Data的$1B 輪融資以及OpenAI/Anthropic/xAI投資持續推升,AI資金仍在激增。 DeepSeek目標估值超過$20 十億,因其在與騰訊和阿里巴巴的會談中;同時,英偉達警告稱,若將AI模型轉向華為晶片,可能會削弱美國的領先優勢。文章也指出,全球AI融資出現激增,包括Vast Data的$1 十億融資輪,估值為$30 十億,以及對OpenAI、Anthropic和xAI的重大投資。

GateNews4小時前

OpenClaw、Hermes 與 SillyTavern 已確認獲 GLM Coding Plan 支援

智譜 AI 產品經理 Li 宣布 OpenClaw、Hermes 和 SillyTavern 作為支援的 GLM Coding Plan 專案;其他工具將依個案評估。請勿分享憑證,或將訂閱用作 API 存取;遇到錯誤 1313 請聯繫客服。 智譜 AI 產品經理 Li 宣布,OpenClaw、Hermes 和 SillyTavern 已正式列入 GLM Coding Plan 的支援專案,其它工具將依個案評估。該項公告提醒使用者不要分享憑證或將訂閱用作 API 存取,並告知遇到錯誤 1313 的使用者聯繫客服。

GateNews7小時前
留言
0/400
暫無留言