AWS 推出 Trainium3 晶片，運算效能倍增
為什麼重要
AWS 推出的 Trainium3 晶片將顯著提升生成式 AI 工作負載的運算效能與能源效率，對於需要大量 AI 運算的公司，如 Adobe、高通等，意味著能更高效地訓練更大的 AI 模型，加速創新與應用部署。
此技術進步將推動雲端運算、AI 技術及相關應用領域的發展，為投資者提供新的增長機會。
背景故事
#Trainium2 晶片、#Amazon EC2、#Project Rainier
亞馬遜旗下 AWS 先前推出了 Trainium2 晶片，專為 AI 模型訓練而設計，並已被 Adobe、AI 新創 Poolside、資料平臺服務 Databricks 及晶片大廠高通等公司採用。
AWS 透過推出基於 Trainium2 的 Amazon EC2 產品 Trn2 UltraServers，旨在滿足大型模型需要更多 AI 運算的需求，並使用 NeuronLink 互連技術，將多臺伺服器連線成一臺超大型伺服器。
AWS 與 Anthropic 合作建構 EC2 UltraCluster，名為 Project Rainier，旨在提高兆級引數模型的即時推論效能，透過互連數十萬顆 Trainium2 晶片。
發生了什麼
#Trainium3 晶片、#3 奈米製程、#高效能需求
AWS 執行長 Matt Garman 宣佈推出全新 Trainium3 晶片，採用 3 奈米製程，運算能力較上代 Trainium2 增加 2 倍，能源效率提升 40%，預計於 2025 年底問世。
Trainium3 專為滿足下一代生成式 AI 工作負載的高效能需求而設計，可幫助客戶更快建立更大的模型，並在部署模型時提供卓越效能。
由 Trainium3 驅動的 UltraServers 的效能預計將比 Trn2 UltraServers 高出四倍。
接下來如何
#雲端運算競爭力、#企業客戶、#成本降低
Trainium3 的推出將進一步加強 AWS 在雲端運算市場的競爭力，特別是在 AI 和機器學習領域。
預計 Trainium3 問世後，將吸引更多企業客戶使用 AWS 的雲端服務來訓練和部署他們的 AI 模型，尤其是那些對運算效能和能源效率有高需求的客戶。
Trainium3 的高效能和能源效率提升將有助於降低 AI 模型訓練和執行的成本，從而加速 AI 技術的創新和應用。
他們說什麼
AWS 執行長 Matt Garman 表示：「Trainium3 專為滿足下一代生成式 AI 工作負載的高效能需求而設計，有助客戶更快地建立更大的模型，並在部署模型時提供卓越的效能。」
Matt Garman 進一步指出：「由 Trainium3 驅動的 UltraServers 預計將比 Trn2 UltraServers 的效能高出四倍。」
