DeepSeek 開源 TileKernels:大型模型訓練與推理用 GPU Kernel 庫

Gate News 訊息,4 月 23 日 — DeepSeek 已在 MIT 許可證下開源 TileKernels,這是一個以 TileLang 編寫的 GPU kernel 庫,用於大型語言模型的訓練與推理。TileLang 是 tile-ai 團隊所開發的領域特定語言,用於在 Python 中表達高效能的 GPU kernel。DeepSeek 表示,該程式庫中的多數 kernel 已接近在運算密度與記憶體頻寬方面的硬體效能上限,其中部分已部署於內部的訓練與推理作業。

該程式庫包含六類 kernel:MoE (專家混合) 的 gating 與路由,包括 Top-k 專家選擇、token-to-expert 對映,以及帶權重正規化的融合 expand/shrink;支援量化的格式包含 FP8、FP4 與 E5M6,並提供逐 token、逐區塊與逐通道的量化,包含融合的 SwiGLU+量化運算;batch transpose;Engram gating,並融合 RMSNorm 前向/反向傳播與權重梯度歸約;Manifold HyperConnection,採用 Sinkhorn 正規化與混合的 split/apply;以及高階 autograd 介面,將低階 kernel 封裝為可訓練層。

Engram 與 Manifold HyperConnection 是 DeepSeek 模型架構的專有元件,實作細節首次向公眾公開。該程式庫需要 NVIDIA SM90 或 SM100 架構的 GPU (H100/H200 或 Blackwell 系列)、CUDA Toolkit 13.1 或更高版本,以及 PyTorch 2.10 或更高版本。

免責聲明:本頁面資訊可能來自第三方,不代表 Gate 的觀點或意見。頁面顯示的內容僅供參考,不構成任何財務、投資或法律建議。Gate 對資訊的準確性、完整性不作保證,對因使用本資訊而產生的任何損失不承擔責任。虛擬資產投資屬高風險行為,價格波動劇烈,您可能損失全部投資本金。請充分了解相關風險,並根據自身財務狀況和風險承受能力謹慎決策。具體內容詳見聲明

相關文章

Shytoshi Kusama Returns to X After 13-Day Silence, Announces Saturday Community Discussion as SHIB Slides 1.8%

Gate News message, April 23 — Shytoshi Kusama, lead ambassador of the Shiba Inu ecosystem, returned to X today after a 13-day silence that began on April 9. He confirmed a scheduled community discussion for Saturday, signaling new developments ahead. His updated bio now reads: "Next up: Let's set a

GateNews11分鐘前

Girin Labs 推出整合 Doppler Finance 的 XRP 支付錢包,實現即時 XRPL 清算

Gate News 訊息,4 月 23 日 — Girin Labs 已推出 Girin Wallet,整合 Doppler Finance 的機構級收益層,以在日常交易中實現 XRP 與 RLUSD 支付。使用者現在可在任何支援 Visa 的商戶消費 XRP 與 RLUSD,交易可在 XRP Ledger 上即時完成清算,且不會犧牲自我託管。

GateNews11分鐘前

XRP 突破企穩,因 XRPL 借貸投票動能加速

關鍵洞見 儘管日內交易時段出現些微每日回檔,但因價格維持在關鍵 EMA 之上,XRP 在每週層面仍展現對主要加密貨幣的強勢,反映出持續的動能。 XRPL 驗證者透過 XLS-65 與 XLS-66 推進借貸升級,導入了集中式流動性金庫與 f

Crypto News Land1小時前

XRP 突破行情站穩,隨著 XRPL 借貸投票勢頭升溫

XRP 顯示每週走強,從下降楔形突破後在均線之上交易;XRPL 透過資金池式金庫與定期貸款推進 XLS-65/66 放貸升級;衍生品在成交量、未平倉量與期權活躍度方面上升。 摘要:本報告指出,XRP 在從下降楔形突破後,於關鍵移動平均線之上維持不斷的每週動能與價格強勢。報告涵蓋 XRPL 驗證者對 XLS-65 和 XLS-66 的投票,藉此啟用原生放貸、資金池流動性金庫與定期貸款,以擴大鏈上金融活動。此外,報告也提到衍生品參與度上升,包括更高的交易量、未平倉量,以及期權活躍度的激增,顯示交易者可能為持續的突破而增加部位。

Crypto News Land1小時前

MagicBlock 發布 Mirage:面向 Solana 的命令列隱私支付工具

Gate News 訊息,4月23日 — MagicBlock 已發布 Mirage,一款為 Solana 網路打造的命令列隱私支付工具。該工具讓使用者能夠透過終端機指令、機器人或 AI 代理來建立錢包、存入資金並發送私密交易。 Mirage 建置於 Private

GateNews2小時前

Aave 為降低系統性風險而在以太坊、Arbitrum 及其他網路暫停 rsETH 儲備運營

Gate 新聞消息,4 月 23 日 — Aave 宣布,為在資產回收流程期間降低系統性風險,它已在以太坊主網、Arbitrum、Base、Mantle 和 Linea 網路暫停所有與 rsETH 儲備相關的運營。 該措施旨在在回收計劃推進的同時,保留額外資金

GateNews2小時前
留言
0/400
暫無留言