NVIDIA與軟銀公司合作，利用Grace Hopper超級芯片建設(shè)面向生成式AI和5G/6G的軟銀下一代數(shù)據(jù)中心

  基于Arm架構(gòu)的超級芯片和BlueField-3 DPU帶來革命性的架構(gòu)，以實現(xiàn)生成式AI驅(qū)動的無線通信

  COMPUTEX——2023年5月29日——NVIDIA和軟銀公司今天宣布，雙方正在合作打造一個基于NVIDIA GH200 Grace Hopper 超級芯片、面向生成式AI和5G/6G應(yīng)用的開創(chuàng)性平臺。軟銀計劃在日本各地的全新分布式AI數(shù)據(jù)中心采用該平臺。

  為在全球范圍內(nèi)快速部署生成式AI應(yīng)用和服務(wù)鋪平道路，通過與NVIDIA合作，軟銀將打造能夠在多租戶通用服務(wù)器平臺上托管生成式AI和無線應(yīng)用的數(shù)據(jù)中心，以降低成本和更節(jié)能。

  該平臺將使用全新NVIDIA MGX 參考架構(gòu)和基于Arm Neoverse的GH200超級芯片，有望提高應(yīng)用程序工作負(fù)載的性能、可擴展性和資源利用率。

  軟銀公司總裁兼首席執(zhí)行官Junichi Miyakawa表示：“隨著我們進(jìn)入一個社會與AI共存的時代，對數(shù)據(jù)處理和電力的需求將不斷增長。軟銀將提供下一代社會基礎(chǔ)設(shè)施，以支持日本的超級數(shù)字化社會。與NVIDIA的合作將幫助我們的基礎(chǔ)設(shè)施利用AI實現(xiàn)更高的性能，包括對RAN的優(yōu)化。我們期待這也可以幫助我們降低能耗，創(chuàng)建一個互連的數(shù)據(jù)中心網(wǎng)絡(luò)，用于共享資源并托管一系列生成式AI應(yīng)用?！?

  NVIDIA創(chuàng)始人兼首席執(zhí)行官黃仁勛表示：“對加速計算和生成式AI的需求正在推動數(shù)據(jù)中心架構(gòu)的根本性變革。NVIDIA Grace Hopper是一個革命性的計算平臺，專為處理和擴展生成式AI服務(wù)而設(shè)計。與以往富有遠(yuǎn)見的其它舉措一樣，軟銀正在引領(lǐng)世界創(chuàng)建一個電信網(wǎng)絡(luò)來承載生成式AI服務(wù)。”

  相比以往的數(shù)據(jù)中心，這些新數(shù)據(jù)中心的分布將更加均衡，并能夠同時處理AI和5G工作負(fù)載。這將讓它們更好地保持峰值運行，同時保持低時延并大幅降低總體能源成本。

  軟銀正在為自動駕駛、AI工廠、增強現(xiàn)實和虛擬現(xiàn)實、計算機視覺和數(shù)字孿生開發(fā)5G應(yīng)用。

  虛擬RAN的吞吐量破紀(jì)錄

  NVIDIA Grace Hopper和NVIDIA BlueField -3 DPU將加速軟件定義的5G vRAN以及生成式AI應(yīng)用，而無需定制硬件加速器或?qū)Ｓ?G CPU。此外，配備BlueField-3的NVIDIA Spectrum以太網(wǎng)交換機將為5G提供高精度時間同步協(xié)議。

  該解決方案在NVIDIA加速的1U MGX服務(wù)器設(shè)計上實現(xiàn)了突破性的5G速度，根據(jù)公開的5G加速器數(shù)據(jù)，它實現(xiàn)了業(yè)內(nèi)吞吐量最高的36Gbps下行鏈路容量。運營商一直難以通過行業(yè)標(biāo)準(zhǔn)服務(wù)器實現(xiàn)如此高的下行鏈路容量。

  全新參考架構(gòu)

  NVIDIA MGX是一個模塊化參考架構(gòu)，讓系統(tǒng)制造商和超大規(guī)模企業(yè)客戶能夠快速、經(jīng)濟地構(gòu)建100多種服務(wù)器機型，適用于各種AI、HPC和NVIDIA Omniverse 應(yīng)用。

  通過將NVIDIA Aerial 軟件引入到高性能的軟件定義的云原生5G網(wǎng)絡(luò)中，這些5G基站將允許運營商動態(tài)地分配計算資源，并實現(xiàn)比競品高2.5倍的能效。

  Arm首席執(zhí)行官Rene Haas表示：“生成式AI的未來發(fā)展需要高性能、節(jié)能的計算，就像NVIDIA 基于Arm Neoverse的 Grace Hopper超級芯片那樣。結(jié)合NVIDIA BlueField DPU，Grace Hopper使軟銀新的5G數(shù)據(jù)中心能夠運行最苛刻的計算和內(nèi)存密集型應(yīng)用，并為Arm上的軟件定義5G和AI帶來指數(shù)級的能效提升?！?