訊息平台

代理式AI崛起改變硬體需求 企業籲超越GPU思維

圖/本報資料庫

商傳媒|林昭衡/綜合外電報導

隨著人工智慧領域從生成式人工智慧(genAI)轉向代理式人工智慧(agentic AI),企業在硬體部署上的策略也需隨之調整。分析師指出,未來將更重視中央處理器(CPU)與特殊應用積體電路(ASIC)的角色,而非僅依賴繪圖處理器(GPU)的強大運算能力。

早期的人工智慧模型主要依賴輝達(Nvidia)和超微半導體(AMD)等公司生產的昂貴繪圖處理器,以提供原始的處理能力進行模型訓練。然而,根據《Computerworld》報導,新的代理式人工智慧工具更側重於嵌入式流程,其運作方式與商業流程和工作流程管理高度相關,這使得它們能在更具成本效益的硬體上運行。neXt Curve 首席分析師 Leonard Lee 便指出,人工智慧運算或加速運算,顯然已超越繪圖處理器作為推論加速器的角色。

Tirias Research 首席分析師 Jim McGregor 強調,儘管特殊應用積體電路(ASIC)長期存在,但隨著代理式人工智慧逐漸普及,它們在效率和長期成本效益方面的優勢日益顯現。此外,中央處理器(CPU)也正重新確立其在人工智慧時代不可或缺的基礎地位。Leonard Lee 認為,中央處理器如今扮演著整個 AI 堆疊的編排層(orchestration layer)與關鍵控制平面。FeibusTech 首席分析師 Mike Feibus 也觀察到,中央處理器的相對重要性正在提升。J. Gold Associates 首席分析師 Jack Gold 進一步解釋,這場轉變更關乎模型管理而非模型建構,而中央處理器在工作流程管理中扮演關鍵角色。

分析師預測,未來兩到三年內,高達 80% 到 85% 的人工智慧工作負載將轉向推論(inference),尤其當工具變得更具代理性時。Jack Gold 指出,輝達等公司生產的繪圖處理器在訓練工作負載下利用率接近 100%,消耗大量電力,而中央處理器在通用運算中利用率約為 40% 到 60%。這也解釋了為何 Google、亞馬遜(Amazon)、微軟(Microsoft)等超大規模資料中心業者,目前正大量部署中央處理器而非僅有繪圖處理器。NeuReality 業務發展與策略合作副總裁 Gaurav Shah 總結說,未來的贏家將是每瓦特能提供最多推論效能的架構,而非單一伺服器擁有最多核心的架構。這顯示對數據移動、編排和網路的負擔正快速增加,帶動了需求,並非中央處理器本身進行更多人工智慧運算,而是整個系統努力跟上人工智慧發展的速度。

對於以半導體製造為主的台灣產業而言,這波從生成式人工智慧到代理式人工智慧的轉型,以及硬體需求從純粹倚賴繪圖處理器轉向中央處理器與特殊應用積體電路的多元發展,無疑帶來了新的機遇與挑戰。台灣的晶圓代工廠和晶片設計業者,長期以來在全球中央處理器、繪圖處理器及各種特殊應用積體電路製造供應鏈中扮演關鍵角色,將需要持續觀察市場趨勢,以靈活調整產能與技術發展方向,抓住不同晶片需求成長的機會。