美光示警：「記憶體牆」越來越高 超級循環可能延續至 2028 年
Celine
AI 算力持續以驚人速度成長，但記憶體頻寬卻未能同步提升，「記憶體牆（Memory Wall）」正成為 AI 產業下一階段的關鍵瓶頸。美光科技（Micron）近期指出，AI 運算能力與高頻寬記憶體（HBM）頻寬的成長速度已逐漸拉開差距，隨著 AI 模型規模持續擴大，記憶體的重要性將進一步提升。
美光執行長梅羅特拉（Sanjay Mehrotra）更直言，「沒有記憶體，就沒有今天的 AI」，並表示目前記憶體供應仍無法追上 AI 需求，市場短期內看不到供需完全平衡的跡象。
AI 算力每 2 年增 3 倍 HBM 頻寬卻不到 2 倍
美光 HBM 設計架構研究員 Raghu Sriramaneni 近日在演講中指出，目前 AI 產業面臨一項日益嚴重的結構性矛盾，AI 計算性能約每 2 年提升 3 倍，HBM 頻寬同期僅增加不到 2 倍。
換言之，GPU、AI 加速器的運算速度不斷提升，但記憶體傳輸資料的速度卻沒有跟上。
AI 加速器在執行大型模型運算時，需要持續從記憶體取得大量資料。當資料供給速度無法滿足 GPU 運算需求時，運算單元就必須等待資料傳輸，造成晶片效能無法充分發揮。
因此，即使 GPU 本身的算力大幅提升，如果 HBM 無法同步提供足夠的資料頻寬，整體 AI 系統效能仍可能受到限制。
HBM 成 AI 核心記憶體 但「越堆越高」也帶來散熱難題
HBM 透過垂直堆疊多層 DRAM 晶片，並以極寬的介面連接 AI 加速器，能提供遠高於傳統 DRAM 的資料傳輸頻寬，目前已成為 GPU 及 AI 加速器的重要記憶體配置。
然而，HBM 堆疊層數持續增加，也帶來新的工程挑戰。早期 HBM 主要採 4 層堆疊，目前主流產品已逐步提高至 12 層至 16 層，未來更朝 20 層以上發展。雖然增加堆疊層數可以提升容量與頻寬，但同時也會推升功率密度，使散熱難度大幅增加。
這意味著 HBM 產業下一階段的競爭，不只是「堆更多記憶體」，而是必須同時解決頻寬、功耗、散熱、可靠度與封裝等問題。
美光點名三大技術突破方向
針對 HBM 未來發展，美光認為產業必須依靠新一代製程及先進封裝技術突破瓶頸，包括液冷技術、混合鍵合（Hybrid Bonding）、下一代先進封裝。
液冷是隨著 HBM 堆疊層數及功率密度增加，傳統散熱方式面臨更大挑戰，有望成為高效 AI 伺服器的重要散熱方案；混合鍵合是透過更高密度的晶片間互連，有機會縮短訊號傳輸距離、降低熱阻，同時進一步提升 HBM 效能。
至於下一代先進封裝，涉及未來 AI 系統將更加強調 GPU、CPU、HBM、網路及其他元件之間的協同設計，從單一晶片最佳化走向整個系統最佳化。
HBM 可靠度也成 AI 訓練隱憂 17％非預期中斷與 HBM 有關
記憶體瓶頸並不只是理論上的效能問題。美光引用 Meta 旗下 Llama 3 訓練研究數據指出，在 AI 模型訓練過程中，約有 17% 非預期中斷與 HBM 相關問題有關，顯示當 AI 訓練規模擴大至數千甚至數萬顆加速器時，記憶體可靠度也可能成為影響整體運算效率的重要因素。
因此，未來 AI 資料中心對 HBM 的要求，將從單純追求「更大容量、更高頻寬」，進一步延伸至可靠度、功耗及長時間運作能力。
美光 CEO：記憶體供應「看不到追上需求的終點」
除了技術瓶頸之外，美光對記憶體市場供需的看法同樣偏向樂觀。
美光 CEO 梅羅特拉表示，AI 帶來的記憶體需求仍沒有看到結束的跡象，公司目前甚至無法生產足夠的記憶體滿足客戶需求。
他指出，部分客戶已透過多年期策略供應協議提前鎖定產能，美光目前已與多家客戶簽署最長 5 年的供應協議，這些長約讓公司能更清楚掌握未來需求，也降低傳統記憶體產業容易受到景氣循環影響的程度。
梅羅特拉表示，AI 時代的記憶體需求已經從傳統資料中心進一步延伸，未來還可能進入自動駕駛、機器人及 AI 消費電子產品。
AI 記憶體需求供不應求 產業最快 2028 年才有明顯緩解
目前三星電子（005930）、SK 海力士（000660）及美光均持續擴充記憶體與 HBM 產能，但市場認為，短期內新增產能仍不足以完全填補 AI 需求缺口。
Counterpoint Research 研究主管 MS Hwang 指出，由於 AI 需求已經從 HBM 進一步蔓延至一般 DRAM，即使三大記憶體廠持續擴產，市場供應要出現較明顯的改善，最快也可能要等到 2028 年。
美光先前也曾表示，即使預期產業供應將在 2028 年逐步改善，公司目前仍無法明確判斷何時才能真正追上持續增加的記憶體需求。
美光砸 2500 億美元擴大美國布局 記憶體正式從「商品」走向戰略基礎設施
面對 AI 帶來的長期需求，美光正大幅增加美國製造與研發投資。
公司宣布未來將投入約 2500 億美元於美國製造與研發布局，並在愛達荷州 Boise 建設新的研發與製造基地，首座晶圓廠預計於 2027 年中開始生產晶圓。
此外，美光近期也宣布成立 Micron Research Labs，規劃 10 年投入 100 億美元，聚焦記憶體與 AI 相關技術研發。
梅羅特拉認為，AI 已經徹底改變記憶體產業的價值定位。過去記憶體往往被視為高度週期性的標準化商品，如今則逐漸轉變成 AI 時代不可或缺的 「戰略基礎設施」。
AI 記憶體超級循環成形？ 美光、SK 海力士、三星成最大受惠者
市場人士指出，如果 AI 算力與記憶體頻寬之間的落差持續擴大，反而可能進一步推升高效能記憶體的重要性。
AI 伺服器不僅需要更多 HBM，也需要更高規格的 DRAM、SSD 及其他記憶體產品，代表 AI 基礎建設的擴張可能同時拉動整體記憶體產業。
目前市場高度關注 SK 海力士、三星電子、美光三大記憶體廠。不過，ARK Invest 創辦人 Cathie Wood 則持相對保守看法，認為目前記憶體價格與獲利異常強勁，可能刺激競爭者擴產及新技術替代，長期而言仍須留意供應增加後的價格壓力。
「記憶體牆」成 AI 下一戰場 供應鏈迎長線投資機會
整體而言，AI 產業正在從過去單純追求 GPU 算力，逐漸轉向 「整體系統效能」競爭。
當 GPU 算力每兩年大幅提升，而 HBM 頻寬成長速度相對落後，記憶體就可能成為限制 AI 性能的關鍵瓶頸。
因此，下一階段 AI 硬體競賽除了 GPU 之外，HBM、先進封裝、混合鍵合、液冷、高速互連與記憶體控制技術的重要性都將持續提高。
對投資市場而言，這也意味著 AI 記憶體需求可能不再只是一次性的景氣循環，而有機會隨著「資料中心→機器人→自動駕駛→邊緣 AI→AI 消費電子」逐步擴大，讓美光、SK 海力士、三星電子等記憶體大廠持續站在 AI 基礎建設浪潮的核心位置。
