輝達推出四款新微服務，助力台日生成式 AI 發展
為什麼重要
輝達推出的全新 NVIDIA NIM 微服務，將直接提升台灣與日本市場生成式 AI 應用的開發與部署效率，對於醫療保健、金融等產業將帶來執行成本降低與效率提升。
由於和碩、長庚紀念醫院等知名企業已開始採用這些微服務，預示著這些技術將在提升製造與營運效率、簡化工作流程及提升病患照護品質方面發揮重要作用。
背景故事
#主權 AI 基礎設施、#生成式 AI 市場潛力、#AI 模型執行效率
全球多國正投資於發展主權 AI 基礎設施，包括新加坡、阿拉伯聯合大公國等，以確保 AI 系統符合當地的價值觀與法律。
ABI Research 預測，亞太地區生成式 AI 軟體營收將從 2023 年的 50 億美元增長至 2030 年的 480 億美元，顯示出生成式 AI 在亞太地區的巨大市場潛力。
發生了什麼
#NVIDIA NIM 微服務、#區域語言模型、#臺灣企業採用
輝達宣佈推出四款全新 NVIDIA NIM 微服務，專為台灣與日本市場設計，旨在提升生成式 AI 應用的開發與部署效率。
Llama-3-Swallow-70B 和 Llama-3-Taiwan-70B 是專為日本和台灣市場訓練的區域語言模型，建立於 Mistral-7B 模型之上，提供英文和日文的訓練資料集。
和碩、欣興、長春集團等臺灣企業已採用輝達的新微服務，長庚紀念醫院也正在建置專屬的 AI 推論服務，使用 Llama 3-Taiwan 70B 模型。
接下來如何
#醫療保健應用、#市場擴充套件、#技術最佳化
輝達看好 NIM 微服務在醫療保健、金融等產業的應用前景，預期將進一步擴充套件至更多領域，提供高達 5 倍的輸出量，降低執行成本並減少延遲。
隨著生成式 AI 在亞太地區的市場潛力不斷擴大，輝達的微服務預計將吸引更多企業採用，以提升其業務流程的效率與創新能力。
輝達將持續開發與最佳化其 AI 微服務產品，以滿足不同地區和行業的特定需求，並確保其技術解決方案能夠符合當地的文化和語言特性。
他們說什麼
長庚紀念醫院的郭昶甫醫師表示，當地語言 LLM 的 AI 應用能簡化工作流程並提升病患照護品質，顯示出輝達微服務在醫療保健領域的實際應用價值。
和碩計劃採用 Llama 3-Taiwan 70B NIM 微服務來提升製造與營運效率，反映出產業界對於輝達微服務的高度認可與期待。
