Nvidia 預計 AI 推理能力提升，晶片效能每年增兩至三倍

為什麼重要

• Nvidia 的技術進步將直接提升人工智慧領域的效能與成本效益，影響從雲端運算到消費者應用的廣泛產業，尤其是對於依賴大量資料處理和分析的公司。

• Nvidia 面臨的市場競爭，特別是來自 AMD 和大型資料中心運營商的內部開發計畫，將影響其市場佔有率和業務增長，這對投資人來說是重要的風險與機會指標。

背景故事

#市場份額、#業務擴充套件、#市場競爭

• Nvidia 佔據超過 90% 的加速器晶片市場份額，這些晶片專門用於加速 AI 工作的處理。

• Nvidia 不僅生產晶片，還擴充套件業務至電腦、軟體、AI 模型、網路和其他服務，旨在推動更多公司採用人工智慧。

發生了什麼

#推理能力、#效能提升、#成本降低

• Nvidia CEO Jensen Huang 預言，未來的人工智慧將具備推理能力，這需要透過降低計算成本來實現。

• Nvidia 計劃每年將其晶片效能提升兩到三倍，同時保持成本和能耗不變，以改變 AI 系統處理推理的方式。

• Jensen Huang 強調，透過大幅降低成本，Nvidia 能夠使 AI 系統在進行推理時更加高效。

接下來如何

#推理能力提升、#市場領導地位、#競爭加劇

• Nvidia 的技術進步將使得未來的 AI 系統能夠透過數百或數千個步驟來回應查詢並反思自己的結論，從而具備更高的推理能力。

• Nvidia 的持續創新和效能提升計劃可能會進一步鞏固其在 AI 加速器市場的領導地位。

• Nvidia 面臨的市場競爭可能會因其技術進步而加劇，特別是來自 AWS、Microsoft 和 AMD 等公司的內部替代品開發。

他們說什麼

• Nvidia CEO Jensen Huang 表示，未來的 AI 將能夠進行推理，這需要透過降低計算成本來實現，並強調 Nvidia 能夠為智慧帶來驚人的成本降低。

提到的股票

• NVDA 輝達

概念股

• 雲端運算

• 資料中心

• GPU

• 數據中心

• HPC

參考資料

• Nvidia wants to drive AI costs down as 'reasoning' models rise
• Nvidia CEO Says ‘Reasoning’ AI Will Depend on Cheaper Computing