根據 Citrini Research 的說法,6 月 16 日,AMD 與 Apple 正同時在 AI 產品中推進基於快閃記憶體的 DRAM 替代方案。AMD 透過併購 MEXT 以最佳化接近 DRAM 水準的快閃儲存效能,降低資料中心的記憶體成本;Apple 則在裝置邊緣部署「LLM in a flash」技術,以達到類似的最佳化效果。
Citrini 最新研究指出,在 AI 推論中,KV cache 的需求以及消耗 25% 的 DRAM 產能的 HBM,造成了顯著的記憶體成本壓力。快閃儲存的成本僅為 DRAM 的 1/55,並透過控制器最佳化、NAND 疊層與儲存單元模式調整,為邊緣 AI 提供可行的容量與頻寬替代方案。