訊息平台

輝達GPU晾一邊?蘋果採Google自研晶片訓練AI模型

商傳媒|記者許方達/綜合報導

蘋果即將向測試版用戶推出「Apple Intelligence」功能,正當市場引頸期盼蘋果最新AI技術的時間點,外媒根據蘋果一篇技術報告揭露,有關訓練AI模型的部分,蘋果是採用Google開發的兩種TPU(Tensor Processing Unit),而非目前市場上最受歡迎的輝達AI處理器。

目前包含計算Google、亞馬遜和其他雲端運算公司生產的晶片在內,輝達約有80%市占;儘管在報告中,蘋果未明確表示「不採用輝達晶片」,但在AI工具和相關功能的軟硬體基礎設施描述中,確實沒有提及輝達相關產品。對於上述報導,蘋果尚未置評。

《路透》報導分析,輝達專精於廣泛用在AI工作的GPU(圖型處理器),而非TPU設計。Google則是透過其雲端平台Google Cloud Platform,銷售能使用TPU的權限,這點和輝達獨立銷售晶片與系統的做法截然不同。在多達47頁的報告中,蘋果並沒有提到Google或輝達,而是指出其基礎模型(AFM)和AFM伺服器是在「雲端TPU叢集」上進行訓練;這也代表蘋果是向雲端業者租用伺服器以執行運算。

為了建立在iPhone和其他裝置上運行的AI模型,蘋果使用2048個TPUv5p晶片,同時為伺服器AI模型部署8192個TPUv4處理器。蘋果工程師在研究報告中指出,使用Google晶片能創造出比報告中討論的兩款模型更龐大、更複雜的模型,「這系統讓我們能夠有效率地訓練AFM模型而且可以擴容,包括終端裝置上的AFM、AFM伺服器與更大的模型」。