邊緣AI入門檻大大降低
全球縮影 2025/02/17

(1)現象:裝置端AI的發展速度快於預期,原本台積電與輝達均預期2026年將迎來顯著成長。但DeepSeek爆紅後,不僅提升Nvidia H100的訓練需求,也帶動本地端部署大型語言模型(LLM)的熱潮,促使市場對裝置端AI的興趣大增。雖然目前本地端部署仍屬小眾,但未來裝置端與雲端AI的發展將逐步整合,形成新的AI生態系統。
(2)原因:DeepSeek的成功推動了優化訓練方式的發展,使得LLM的訓練成本降低,進一步促進H100等AI晶片的需求增長。此外,由於資料安全的考量,許多企業與個人開始尋求本地端部署LLM的解決方案。工具如LM Studio、Ollama等簡化了部署流程,讓低至4-bit/8-bit量化的LLM可以在不同規格的設備上運行,從筆記型電腦到配備獨立顯卡的PC皆可支援。這些因素共同加速了裝置端AI的崛起。
(3)影響:研究機構法人提出觀點認為,裝置端AI的加速發展可能會在短期內影響市場對雲端AI成長的樂觀預期,進而影響相關投資氣氛。然而,從長遠來看,裝置端與雲端AI仍將同步成長,並可能互相補強,這當中,台積電將受惠於裝置端處理器升級,成為此趨勢的最大贏家之一;但Nvidia在裝置端面臨較強競爭,短期內可能對其市場評價產生影響。(黃輝明)
(4)受影響股票:台積電(2330)
微星(2377)
華碩(2357)
技嘉(2376)
宏碁(2353)