英特爾推出 Gaudi 3 加速器，AI 效能提升 20%

為什麼重要

• 英特爾 Gaudi 3 加速器的推出，將直接提升人工智慧領域的運算效率和成本效益，對於從事 AI 研究和開發的科技公司和投資人來說，意味著更高的效能和更低的運營成本。

• IBM 和戴爾科技已開始應用 Gaudi 3，顯示市場對此技術的認可和需求，預示著相關產業的投資機會和潛在的市場擴充套件。

發生了什麼

#Gaudi 3、#效能優勢、#硬體規格

• 英特爾正式推出針對 AI 工作負載設計的 Gaudi 3 加速器，專門最佳化以應對大規模生成式人工智慧。

• Gaudi 3 在對 LLaMa 2 70B 進行推理時，吞吐量比競爭對手 H100 高出 20%，且價效比是 H100 的兩倍。

• Gaudi 3 配備了 64 個張量處理器核心、8 個矩陣乘法引擎、128GB HBM2E 記憶體，並支援高達 3.67TB/s 的記憶體頻寬。

背景故事

#Gaudi 2、#硬體提升、#需求增加

• 生成式人工智慧的需求增加，推動了對更高效能 AI 加速器的需求，促使英特爾開發 Gaudi 3。

接下來如何

#IBM Cloud、#戴爾科技、#生成式 AI

• IBM 已在 IBM Cloud 上部署 Gaudi 3，預期將提升雲端 AI 服務的效能和效率。

• 戴爾科技正在開發基於 Gaudi 3 和 Xeon 6 的解決方案，預計將推動生成式 AI 應用的創新和實用化。

他們說什麼

• 英特爾產品經理表示，Gaudi 3 的推出標誌著對大規模生成式 AI 應用的重大進展，強調了其在效能和價效比上的優勢。

• IBM 雲端計算部門負責人指出，部署 Gaudi 3 將使 IBM Cloud 在 AI 加速服務方面處於領先地位，提升客戶體驗。

提到的股票

• INTC 英特爾

概念股

• CPU 設計

參考資料

• 英特尔推出Gaudi 3 AI加速器：采用128GB HBM2E