Q324全球AI加速器收入飆升130%

  ICC訊  Dell’Oro最近發(fā)布的一份報告指出，由圖形處理單元（GPU）和定制加速器組成的加速器市場，在2024年第三季度的收入增長了130%。美國的主要超大規(guī)模云服務提供商，如亞馬遜、谷歌、Meta和微軟，正積極擴展其基礎設施，以支持大型語言模型的訓練和推理，預計全年將部署超過500萬個能夠進行人工智能（AI）訓練的加速器。

  Dell'Oro集團高級研究總監(jiān)Baron Fung表示：“隨著超大規(guī)模服務商競相構(gòu)建用于大型語言模型訓練和推理的基礎設施，加速器的需求呈現(xiàn)出驚人的增長速度。除了商用GPU之外，美國的超大規(guī)模服務商也在增加使用定制加速器來建設AI基礎設施。隨著大型語言模型規(guī)模的不斷擴大，對更大計算集群的需求也隨之增加，這促使超大規(guī)模服務商加快采用定制加速器。他們通常與博通和Marvell等芯片制造商合作開發(fā)定制解決方案，旨在提高性能效率、降低成本，并減少對英偉達（NVIDIA）GPU的依賴?！?

  此外，該季度報告還強調(diào)了以下要點：

  - 2024年，服務器和存儲系統(tǒng)組件市場預計將增長超過100%，其中加速器、內(nèi)存和存儲驅(qū)動器是推動增長的關鍵因素。

  - NVIDIA在組件收入方面占據(jù)主導地位，遠遠領先于其他供應商，三星和SK海力士則緊隨其后。NVIDIA幾乎占到了總收入的一半，而部署定制解決方案的超大規(guī)模服務商正在迅速趕上。

  - 2024年第三季度，智能網(wǎng)絡接口卡（Smart NIC）和數(shù)據(jù)處理單元（DPU）的收入幾乎翻了一番，這是由AI集群中網(wǎng)卡的強勁部署推動的。

  - 預計到2025年，增長速度雖然會有所放緩但仍將保持健康的兩位數(shù)增長，年初可能會因庫存調(diào)整而導致通用服務器組件的增長放緩。

  Dell’Oro曾在2024年8月發(fā)布對加速器市場的五年預測。報告稱，由于超大規(guī)模云服務提供商和企業(yè)市場的人工智能相關數(shù)據(jù)中心資本支出激增，且在預測期內(nèi)仍將保持高位，未來五年，加速器收入（主要由GPU和定制加速器組成）預計將以38%的復合年增長率（CAGR）增長。