SanDisk 推出 HBF（高頻寬快閃記憶體），帶動 AI GPU 發展
為什麼重要
SanDisk 的 HBF（高頻寬快閃記憶體）技術將直接提升 AI 領域的儲存和運算效率，讓從事 AI 研究與開發的公司享受到更高效的資料處理能力。
由於 HBF 專為大規模 AI 模型設計，涉及 AI 技術的企業將能夠更有效部署和執行先進模型，加速 AI 應用的創新與實現。
背景故事
SanDisk 在投資者日上展示了專為 AI 領域設計的 HBF，結合了 3D NAND 快閃記憶體和 HBM 的特性。
HBF 使用矽通孔（TSV）技術，其設計打破了傳統 NAND 的限制，堆砌 16 個 3D NAND BiCS8 晶片，並帶有一個邏輯層，可以並行存取記憶體陣列，每個堆疊的容量是當前 HBM 的 8 到 16 倍。
HBF 的延遲比 DRAM 更高，限制了其在特定工作負載上的應用，更適合讀取密集型的 AI 推理任務， 遊戲之類的任務不在其考慮之列。
發生了什麼
HBF 為大規模 AI 模型提供了一種新的儲存解決方案，使用八個 HBF 堆疊的系統可提供高達 4TB 的 VRAM，足以將大型 AI 模型直接儲存在 GPU 硬體上。
這項技術提高了頻寬和吞吐量，但 SanDisk 尚未公佈具體的頻寬資料和針對 NAND 固有寫入耐久性限制的解決方案。
SanDisk 已宣佈三代 HBF 開發計劃，展現出對這項技術的長期承諾。
接下來如何
HBF 正在被開發為一種開放標準，旨在簡化、整合，特別是在讀取密集型 AI 推理任務中的應用。
隨著三代 HBF 的開發計劃進行，預計將進一步提升這項技術的效能，擴大其在 AI 儲存和推理領域的應用範圍。
他們說什麼
SanDisk 儲存技術執行長 Alper Ilkbahar：「HBF 針對的是讀取密集型 AI 推理任務，並正在將其開發為一種開放標準。」
對於 HBF 的未來發展，SanDisk 表示：「儘管存在 NAND 面臨的寫入耐久性限制的挑戰，HBF 的高容量和吞吐量特性，符合 AI 模型儲存和推理要求。」
