AWS 推出 Trainium2 UltraServer，強化 AI 運算能力
為什麼重要
AWS 推出的「Trainium2 UltraServer」將顯著提升 AI 運算能力，對於需要大量運算資源的企業和科技領域將有重大影響。
台積電及其供應鏈因應 Trainium2 的生產需求增加，將直接受益於此技術的推進，預期將帶動整個半導體產業的成長。
背景故事
#AWS 與 Marvell 合作、#台積電 5 奈米技術、#AI 運算進展
AWS 與 Marvell 合作設計的 Trainium2，由台積電採用 5 奈米與 CoWoS 封裝技術製造，滿足市場對高效能運算晶片的需求。
由於 Trainium2 需求強勁，Marvell 上調對台積電明年 CoWoS 的需求量，預示相關供應鏈將受惠。
AWS 於 2024 re:Invent 由資深副總裁 Peter DeSantis 介紹 Trainium2 及其相關技術，展示 AWS 在 AI 運算領域的最新進展。
發生了什麼
#Trainium2 UltraServer、#高效能運算、#Project Rainier
AWS 在 2024 re:Invent 宣佈推出全新「Trainium2 UltraServer」，搭載 64 顆 Trainium2，HBM 容量高達 6TB，展現出前所未有的運算能力。
Trainium2 UltraServer 組合包含兩座機櫃、四個伺服器，每秒浮點運算次數達 83.2 PFLOPS，HBM 頻寬每秒達 185TB，是 AWS 推出的最強 AI 運算伺服器。
Anthropic 共同創辦人 Tom Brown 宣佈 Project Rainier 將採用 AWS 的 Trainium2，由數十萬顆晶片組成，目的是進一步強化 AI 運算功能。
接下來如何
#半導體供應鏈成長、#AI 運算新標準、#AWS 領導地位
Trainium2 的強勁需求將進一步推動台積電及其 CoWoS 封裝技術的發展，預期將帶動整個半導體供應鏈的成長。
AWS 的 Trainium2 UltraServer 將為 AI 運算市場帶來新的標準，預計將吸引更多企業投入相關技術的研發與應用。
Project Rainier 的實施將進一步證明 Trainium2 在強化 AI 運算功能方面的實力，為 AWS 在 AI 領域的領導地位增添新的支援點。
他們說什麼
AWS 資深副總裁 Peter DeSantis 表示，Trainium2 UltraServer 的推出標誌著 AWS 在 AI 運算領域的一大步進展，展現了對提升運算效能和技術創新的持續承諾。
Anthropic 共同創辦人 Tom Brown 表示，選擇 AWS 的 Trainium2 作為 Project Rainier 的技術基礎，是基於其卓越的運算效能和高效的資料處理能力，期待透過此次合作進一步推動 AI 技術的發展。
