訊息平台

Snowflake 推出動態模型路由 助企業優化 AI 成本效益

圖/本報資料庫

商傳媒|林昭衡/綜合外電報導

美國雲端資料倉儲公司 Snowflake 於週二(8月18日)宣布,為其人工智慧(AI)平台 Snowflake Cortex AI 推出兩項新功能:動態模型路由與擴大開源模型(open models)選項,目標是協助企業更有效率地運用 AI,同時顯著降低部署與營運成本。此舉旨在解決 AI 投資加速,但商業價值未能同步提升的挑戰。

其中,透過其旗下的 Cortex AI Gateway 平台,Snowflake 導入了「動態模型路由」(dynamic model routing)功能。這項功能能夠智慧地判斷並選擇最合適的 AI 模型來執行特定任務,而非一律使用成本最高的「前沿模型」。例如,簡單的每週狀態報告摘要任務,所需 AI 能力遠不及分析整個投資組合的風險。透過智慧路由,Cortex AI Gateway 能在 AI 代理執行任務的每個步驟中,自動挑選最經濟實惠且能可靠完成任務的模型。這不僅減少了不必要的推論(inference)費用,也讓開發團隊無需自行建構與維護複雜的模型選擇邏輯。此路由決策還能自動適應模型能力與價格的變化,無需企業重構應用程式。

為了讓智慧路由有更多選擇,Snowflake 也擴大了其開源模型的組合,包含 DeepSeek-V4-Flash 與 GLM-5.3(兩者目前皆為私人預覽版)。這些新模型將加入現有的 Anthropic、谷歌、OpenAI、xAI、Mistral AI 和 Meta 等公司提供的模型選項,為用戶提供更多元的選擇,以在品質、性能與成本之間找到最佳組合,進而提升 AI 應用的「智慧效率」。Snowflake 指出,一份內部評估顯示,動態模型路由在數據建構工具(dbt)管線工作負載上,可將 Token 使用效率提高達三倍,且品質與僅使用前沿模型的方式相當;在程式開發工作負載測試中,工程團隊在維持相同程式碼交付量的同時,Token 使用量減少了約 25%。

Snowflake 強調,其服務這些開源模型是直接進行,而非透過第三方 API 代理,確保 AI 推論過程能在安全的環境中發生。這讓企業資料能留在 Snowflake 的治理範圍內,使開源模型也能遵循相同的角色型存取控制與稽核追蹤,達到資料合規性要求。透過控制整個技術堆疊,Snowflake 能根據企業實際工作負載的存取模式進行優化,進一步降低資料傳輸成本與延遲。

總體而言,動態模型路由與更廣泛的開源模型組合,預期將為企業帶來 AI 應用的複合式效率增益。此系統能透過實務使用學習,讓路由決策隨著時間推移更加精確,使任務能依據品質、延遲、成本與治理需求,匹配到最適合的智慧層級,最終協助企業在不犧牲模型性能的前提下,持續降低商業成果的平均成本,加速 AI 技術的普及與應用。