IBM Cloud 引入英特爾 Gaudi 3，加速 AI 雲服務發展

為什麼重要

• IBM Cloud 引入英特爾 Gaudi 3 AI 加速器，將直接提升生成式 AI 推理工作負載的效能和成本效益，影響 AI 與雲端計算服務市場。

• 此合作促進高效能記憶體產品需求，對伺服器、資料中心及相關硬體供應商產生正面影響。

背景故事

#AI 建設投入、#高效能儲存需求、#資料中心要求

• 伺服器資料中心對記憶體產品的效能要求嚴苛，且 design in 週期較長。

發生了什麼

#IBM Cloud、#Gaudi 3 AI 加速器、#5nm 製程技術

• IBM Cloud 宣佈將引入英特爾的 Gaudi 3 AI 加速器，預計到 2025 年初推出結合英特爾 Gaudi 3 AI 加速器和第五代至強處理器的先進雲服務。

• 該服務專注於為生成式 AI 推理工作負載提供最佳化支援，並計劃在其 AI 與資料平臺 watsonx 上實現對 Gaudi 3 的全面支援。

• 英特爾 Gaudi 3 AI 加速器採用了尖端的 5nm 製程技術，配置了 64 個 TPC 和 8 個 MME，配備了 96MB SRAM 快取及 128GB HBM 記憶體。

接下來如何

#企業級使用者、#AI 解決方案、#市場增長動力

• IBM Cloud 與英特爾的合作將為企業級使用者提供靈活高效的 AI 解決方案，有助於客戶在混合雲環境中更有效地擴大其 AI 工作負載。

• 此合作也將為 AI 雲服務市場帶來新的增長動力，顯著提升模型推理的成本效益。

• 企業級資料中心領域成為當前市場中的亮點，北美和國內網際網路廠商對 AI 伺服器相關需求的積極表現，支援了伺服器領域的需求。

他們說什麼

• IBM Cloud 總經理 Alan Peacock 強調，IBM 致力於提供滿足客戶需求的解決方案，推動 AI 和混合雲的創新，同時確保安全性和彈性。

• CFM 快閃記憶體市場資料顯示，Q3 伺服器 DDR5 平均 ASP 漲幅約 15%，NAND 平均 ASP 漲幅約 5%-10%，反映出市場對高效能記憶體產品的強烈需求。

提到的股票

• IBM International Business Machines Corp

• INTC 英特爾

概念股

• 雲端運算

• 記憶體

• IC設計

• HPC

參考資料

• IBM率先导入英特尔Gaudi 3 AI加速器，有望带动高容量、高性能存储产品需求