消費性電子產品需求隨著全球景氣低迷而委靡不振，而AI應用帶動HPC晶片需求逆勢大幅成長；除採用現有晶片供應商解決方案外，客製化自研晶片趨勢也已崛起，高速運算應用成為先進製程最大驅動力。然而，先進製程產能過度集中台灣也引發國際客戶的擔憂，據TrendForce資料顯示，截至2024年底，全球仍有超過70%的先進製程產能位於台灣。在地緣政治風險下，各國以優渥的補貼政策吸引晶圓廠前往當地設廠；台灣的半導體關鍵地位及全球產能版圖變化成為供應鏈關注重點。先進製程演進又將如何助力AI晶片效能更上一層樓。

在 AI 浪潮席捲全球的當下，企業面臨「算力不足」與「成本高昂」的雙重挑戰。本演講將探討如何透過 GPU 資源的動態調度與精細切割技術，提升 GPU 使用效率，避免資源閒置，達到節能減碳與成本最佳化。我們將分享實際案例，說明企業如何以更低門檻導入 AI，加速 AI 應用落地，真正實現高效、綠能且永續的 AI 基礎建設。

AI應用帶動高效能運算晶片需求發燒已持續近兩年，高算力應用成為先進製程及晶圓代工產業最大驅動力。自2025年起，除了AI晶片供應商及CSPs自研晶片，記憶體供應商也因應高算力需求，爭相尋求先進製程晶圓代工夥伴合作；晶圓廠上中下游配套IP、設計服務及封測生態系已成為AI軍備競賽的必要資源。除先進製程的商機外，Edge AI是否能為需求沉寂已久的成熟製程注入新能源，2025年的晶圓代工產業在Cloud AI與Edge AI的發展下將如何變革成為關注焦點。

隨著AI晶片需求的激增，高帶寬記憶體（HBM，High Bandwidth Memory）的市場地位愈加凸顯。高階的AI應用需要大量的數據運算，傳統DRAM已無法滿足其高頻寬的要求，而HBM通過其堆疊式設計與頻寬的增加，得以達到高速的數據傳輸速度，以及單晶容量的容量增加，恰能符合AI應用的需求；且因為AI chips的搭載容量亦有提升之姿，推升HBM今年需求年成長率更是接近300%。
然而，HBM的生產技術難度也相對較高，其製造過程中克服多項技術挑戰，包括散熱管理、電路設計的精密度。此外，由於製造HBM所需的先進製程和設備投資龐大，使得進入此市場的門檻相對較高，相關公司也需具備相當的技術實力與資本支持，以迎接這一挑戰。

NAND Flash 作為非揮發性記憶體的關鍵角色，在數據儲存領域扮演著重要地位。然而，近年來，隨著人工智慧 (AI) 技術的快速發展，NAND Flash 市場正經歷著前所未有的變革。AI 應用對高速、大容量儲存的需求日益增加，直接推動了 enterprise SSD (eSSD) 市場的蓬勃發展。然而，AI 尚未在 PC 和智慧型手機等消費電子領域帶來顯著的 NAND 消耗量提升。儘管 AI 功能在這些設備中日益普及，但對儲存容量的需求增長相對有限。
NAND Flash 供應商在經歷了 2024 年的巨額虧損後，對資本支出轉趨保守。同時，DRAM 和 HBM 等其他記憶體產品的強勁需求，也擠壓了 NAND Flash 的設備投資。供應商需要在有限的產能下，優先滿足 eSSD 等高利潤產品的需求。

The Presentation mainly focuses on the overall AI server market forecast and the key dynamics of the AI server supply chain, such as CoWoS, ODM/OEMs, etc, and the related geopolitical issues. In addition to NVIDIA and AMD's GPU solutions, TrendForce believes that the trend worth noting in the future is the expansion of self-developed ASIC chips by hyper CSPs, such as AWS, Google, etc. TrendForce will provide insights to foresee the development opportunities of the AI server market in 2025 and beyond.