輝達公布最新 AI 伺服器效能：可讓部分模型速度提升達 10 倍
2025/12/05
美國晶片大廠輝達（NVDA） 公布最新效能數據指出，其最新一代 AI 伺服器可讓目前成長最快的人工智慧模型在推理階段取得高達 10 倍效能提升。此結果突顯出輝達希望在產業從「訓練」轉向「大規模部署」的競爭環境中，持續守住領先地位。 輝達強調，本次效能躍進主要發生在混合專家（Mixture-of-Experts, MoE）模型。此類架構會依任務類型自動分配至模型中的不同「專家」模組，以提升運算效率。 MoE 技術今年快速爆紅，源自中國業者 DeepSeek 釋出高性能開源模型，引發全球廣泛採用。目前包括 OpenAI、法國 Mistral 及中國 Moonshoot AI 等開發者皆已導入此架構。
