<dl id="1wler"><sup id="1wler"></sup></dl>
  • 英偉達(dá)電話會:預(yù)計下一代芯片B100供不應(yīng)求,全球數(shù)據(jù)中心安裝量未來5年翻一番

    訊石光通訊網(wǎng) 2024/2/23 14:08:05

      ICC訊 黃仁勛認(rèn)為,整個數(shù)據(jù)中心行業(yè)正在經(jīng)歷一次全新的變革。

      他在當(dāng)?shù)貢r間周三召開的英偉達(dá)財報電話會上表示,AI工廠作為一種新型的數(shù)據(jù)中心,將數(shù)據(jù)轉(zhuǎn)化為極具價值的“代幣”,比如人們在使用ChatGPT、Midjourney等服務(wù)中體驗(yàn)到的東西。

      黃仁勛表示,計算機(jī)行業(yè)正同時處于加速計算與生成式AI轉(zhuǎn)型的開端,這將推動全球數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝量在未來5年內(nèi)翻一番,創(chuàng)造每年數(shù)千億美元的市場機(jī)會。

      考慮到廣闊的市場前景,黃仁勛稱,2024年及以后,數(shù)據(jù)中心業(yè)務(wù)持續(xù)增長的條件都非常優(yōu)秀,預(yù)計AI Enterprise未來會成為一項(xiàng)非常重要的業(yè)務(wù)。

      至于英偉達(dá)是否進(jìn)軍ASIC(專用芯片設(shè)計)市場,黃仁勛并沒有做直接回答。

      英偉達(dá)CFO Colette Kress則在財報電話會議時表示,雖然當(dāng)前GPU的供應(yīng)正在改善,但需求仍然強(qiáng)勁,預(yù)計下一代產(chǎn)品的市場需求將超過供給,尤其是預(yù)計今年晚些時候發(fā)貨的新一代芯片B100。他表示,“構(gòu)建和部署AI解決方案已經(jīng)觸及幾乎每一個行業(yè)”,預(yù)計數(shù)據(jù)中心基礎(chǔ)設(shè)施規(guī)模將在五年內(nèi)翻番。

      當(dāng)?shù)貢r間周三公布的財報顯示,英偉達(dá)四季度營收同比猛增265%至221億美元,高于分析師預(yù)期的204.1億美元,單季度收入甚至高于2021年全年。最大營收來源數(shù)據(jù)中心部門,四季度營收達(dá)到184億美元,同比暴增409%。

      英偉達(dá)營收和利潤已連續(xù)三個季度創(chuàng)歷史紀(jì)錄,2024全財年?duì)I收增長126%。

      以下是英偉達(dá)第四季度財報電話會分析師問答全文內(nèi)容:

      高盛Toshiya Hari:

      我的問題是關(guān)于數(shù)據(jù)中心業(yè)務(wù)的,Jensen(黃仁勛)。

      很明顯,你知道你在這個行業(yè)做得非常好。我很好奇你對2024-2025日歷年的數(shù)據(jù)中心業(yè)務(wù)的預(yù)期,過去三個月內(nèi)有何變化?。

      希望您能談?wù)剶?shù)據(jù)中心領(lǐng)域中的一些新興方向,比如軟件、主權(quán)AI等。我認(rèn)為您已經(jīng)非常明確地表達(dá)了中長期的問題。

      最近有一篇關(guān)于英偉達(dá)可能進(jìn)軍ASIC(專用芯片設(shè)計)市場的文章,這有任何可信度嗎?如果是這樣,英偉達(dá)在未來幾年內(nèi)在這個市場上競爭和發(fā)展?

      黃仁勛:

      對于第一個問題。

      我們一次性指引一個季度,但從根本上講,2024-2025年及以后的持續(xù)增長環(huán)境非常好。理由是,我們正處于兩個全行業(yè)轉(zhuǎn)型的開端,這兩個轉(zhuǎn)型都是全行業(yè)的。

      第一個是從通用計算到加速計算的轉(zhuǎn)變,如您所知,通用計算開始失去動力。你可以從云服務(wù)提供商(CSP)的擴(kuò)張和許多數(shù)據(jù)中心中看出,包括我們自己的通用計算中心,它可以將折舊從四年延長到六年。但當(dāng)它不能像以前那樣從根本上顯著提高其數(shù)據(jù)處理量時,就沒有理由使用更多CPU進(jìn)行更新,因此必須加速一切。

      這是英偉達(dá)一直在開創(chuàng)的。加速計算可以顯著提高LNG 效率,可以將數(shù)據(jù)處理成本下降20倍,這是一個巨大的數(shù)字。當(dāng)然,還有速度。

      這種速度令人難以置信,以至于我們今天實(shí)現(xiàn)了第二次全行業(yè)的轉(zhuǎn)型,稱為生成式AI。

      是的,我們可以,我相信我們會在通話中談?wù)摵芏?,但請記住,生成式AI是一種新的應(yīng)用。它正在賦能一種新的軟件生成方式,新類型的軟件正在被創(chuàng)建。這是一種新的計算方式。您可以在傳統(tǒng)的通用計算設(shè)備上進(jìn)行生成式AI的任務(wù)。這一過程必須得到加速。

      第三,它正在賦能一個全新的行業(yè),這是值得退一步審視的事情,與你最后一個關(guān)于主權(quán)AI的問題有關(guān)。

      在某種意義上,整個數(shù)據(jù)中心行業(yè)正在經(jīng)歷一次全新的變革。傳統(tǒng)上的數(shù)據(jù)中心僅僅被用來計算數(shù)據(jù)、存儲數(shù)據(jù)、為公司員工提供服務(wù),現(xiàn)在,我們有了一種新型的數(shù)據(jù)中心,它專注于AI生成。我曾把它描述為AI工廠,本質(zhì)上利用原材料,也就是數(shù)據(jù),用英偉達(dá)生產(chǎn)的這些AI超級計算機(jī)來改造數(shù)據(jù),將其轉(zhuǎn)化為極具價值的“代幣”。

      這些“代幣”就是人們在震撼的ChatGPT、Midjourney或者現(xiàn)在搜索等服務(wù)中體驗(yàn)到的東西,所有這些推薦系統(tǒng)現(xiàn)在都由此增強(qiáng)。

      與此相關(guān)的所有超個性化服務(wù),這些不可思議的初創(chuàng)公司,生成蛋白質(zhì)、化學(xué)物質(zhì)的數(shù)字生物學(xué)等等,所有這些“代幣”都是在一種非常專業(yè)化的數(shù)據(jù)中心內(nèi)生成的。我們稱這種數(shù)據(jù)中心為AI超級計算機(jī)和AI生成工廠。

      但是我們看到的是多樣性,我們在這一方面取得了許多進(jìn)步。第一,我們做的推理量已經(jīng)飆升,幾乎每一次你和ChatGPT互動,我們都在做推理,每次你使用Midjourney時,我們也在做推理。每次你看到這些令人驚嘆的生成視頻,或者Runway、Firefly編輯的視頻,英偉達(dá)都在做推理,我們的推理業(yè)務(wù)擴(kuò)張巨大,大約在40%左右。

      訓(xùn)練量正在繼續(xù)增加,因?yàn)檫@些模型變得越來越大,推理量也在增長,但我們也正在多樣化進(jìn)入新的行業(yè)。大型CSP仍在繼續(xù)擴(kuò)張。你可以從他們的資本支出和討論中看出來。企業(yè)軟件平臺正在部署AI服務(wù),Adobe就是一個很好的例子,還有SAP和其他公司。

      還有,消費(fèi)者互聯(lián)網(wǎng)服務(wù)現(xiàn)在正在通過生成式AI來增強(qiáng)他們所有的服務(wù),以創(chuàng)建更多超個性化的內(nèi)容。

      我們在談?wù)摴I(yè)化的生成式AI。總的來說,以汽車、金融服務(wù)和醫(yī)療保健為的首垂直行業(yè),現(xiàn)在已經(jīng)達(dá)到了數(shù)十億美元的規(guī)模。

      當(dāng)然,還有主權(quán)AI。

      提出主權(quán)AI的原因是每個地區(qū)的語言、知識、歷史和文化不同,他們擁有自己的數(shù)據(jù)。

      他們想要利用自己的數(shù)據(jù),數(shù)據(jù)訓(xùn)練AI模型,開發(fā)數(shù)字化智能服務(wù),創(chuàng)造屬于自己的AI體系。世界各地的數(shù)據(jù)都不一樣。

      因?yàn)檫@些數(shù)據(jù)對本國最有價值,因此各國會保護(hù)本國的數(shù)據(jù),自己處理數(shù)據(jù),自己開發(fā)、提供AI服務(wù),而不是依賴外部AI系統(tǒng)。

      所以我們看到,日本、加拿大、法國、我和許多其他地區(qū)正在建設(shè)主權(quán)AI基礎(chǔ)設(shè)施。因此,我的期望是,美國西部的經(jīng)驗(yàn),肯定會在世界各地復(fù)制。未來這些AI代工廠將遍布每個行業(yè)、每個公司、每個地區(qū)。

      所以我認(rèn)為,生成式AI已經(jīng)在去年真正成為一個全新的應(yīng)用空間,一種全新的計算方式。一個全新的產(chǎn)業(yè)正在形成,這推動了我們的增長。

      摩根士丹利分析師Joe Moore:

      40%的收入來自推理業(yè)務(wù),這比我預(yù)期的要大。這個比例一年前大概是什么水平,大模型相關(guān)的推理業(yè)務(wù)增長了多少?英偉達(dá)是如何測量這一比例的?是否可靠?因?yàn)槲壹僭O(shè)在某些情況下,同一塊GPU既可以用來訓(xùn)練也能夠用來推理。

      黃仁勛:

      我倒過來說,這個比例可能被低估了。讓我告訴你為什么。一年前,當(dāng)人們使用互聯(lián)網(wǎng)、瀏覽新聞、觀看視頻、聽音樂、查看推薦產(chǎn)品時,面對的是數(shù)萬億的數(shù)據(jù),而假設(shè)你的手機(jī)只有三英寸,要將所有這些信息整合到如此小的空間中,需要強(qiáng)大的推薦系統(tǒng)。

      這些推薦系統(tǒng)過去全部基于CPU,但在最近轉(zhuǎn)向了深度學(xué)習(xí)和生成式AI,這些推薦系統(tǒng)直接受益于GPU的加速。

      它需要GPU來加速嵌入、近鄰搜索、重新排名,以及生成個性化推薦信息,所以現(xiàn)在的推薦系統(tǒng)運(yùn)行的每一步都需要GPU。如你所知,推薦系統(tǒng)是這個星球上最大的軟件引擎。世界上幾乎所有主要公司都需要運(yùn)行這些大型推薦系統(tǒng)。

      每當(dāng)你使用ChatGPT就是在推斷,每當(dāng)你聽到中途和他們?yōu)橄M(fèi)者產(chǎn)生的東西的數(shù)量。當(dāng)你看到Getty時,我們用Getty和來自Adobe的Firefly所做的工作,這些都是生成模型。列表還在繼續(xù)。這些我一年前提到的都不存在,都是100%新的。

      每當(dāng)你使用ChatGPT時就是在做推理,Midjourney也是一樣。我們與Getty、Adobe、Firefly等的合作,以及這些應(yīng)用生成式模型,這些還在不斷增加。我剛才提到的所有這些,一年前都不存在,100%都是新的。

      Bernstein Research分析師Stacy Rasgon:

      你們預(yù)計下一代產(chǎn)品會面臨供不應(yīng)求,我想深入了解這方面的情況,導(dǎo)致下一代產(chǎn)品供應(yīng)緊張的原因是什么?既然GPU供應(yīng)正在放松,為什么下一代產(chǎn)品還會出現(xiàn)供不應(yīng)求的局面。

      你預(yù)計這種限制會持續(xù)多久?是否意味著整個2025年日歷年,下一代產(chǎn)品都會出現(xiàn)供應(yīng)短缺。

      黃仁勛:

      總的來說,我們的供應(yīng)正在改善。我們的供應(yīng)鏈做得非常出色,從晶圓,封裝,存儲,所有的電源調(diào)節(jié)器,到收發(fā)器、網(wǎng)絡(luò)、電纜等我們所用到的組件,供應(yīng)都在改善。。如您所知,人們認(rèn)為英偉達(dá)GPU只是一塊芯片,但英偉達(dá)Hopper GPU由35000個零件組成,重70磅。這些東西是我們制造的非常復(fù)雜的東西,人們稱之為AI超級計算機(jī)是有充分理由的。如果你看看數(shù)據(jù)中心的后面,系統(tǒng),布線令人難以置信。它是世界上最密集、最復(fù)雜的網(wǎng)絡(luò)布線系統(tǒng)。

      我們的InfiniBand業(yè)務(wù)同比增長了5倍。供應(yīng)鏈為我們提供了很大支持。所以總體來說,供應(yīng)正在改善。我們預(yù)計需求仍會大于供給,我們會全力以赴。制程周期正在縮短,我們會繼續(xù)努力。

      然而,正如你所知,每當(dāng)我們開發(fā)新產(chǎn)品時,它就會從零上升到非常大的數(shù)字,這不可能在一夜之間完成。一切都在加速,但它不會。因此,當(dāng)我們開發(fā)出新一代產(chǎn)品后,無法在短期內(nèi)完全滿足需求,現(xiàn)在我們正在增加H200的供應(yīng)。

      我們也在擴(kuò)大構(gòu)建Spectrum-X平臺。這是我們進(jìn)入以太網(wǎng)世界的全新產(chǎn)品,目前已取得非常好的進(jìn)展。InfiniBand是AI專用系統(tǒng)的標(biāo)準(zhǔn),我們在以太網(wǎng)的基礎(chǔ)新功能之上進(jìn)行了增強(qiáng),如自適應(yīng)路由、擁塞控制、噪聲隔離或流量隔離,以便我們可以針對AI優(yōu)化以太網(wǎng)。因此,InfiniBand將是我們AI專用基礎(chǔ)設(shè)施。Spectrum-X將是我們AI優(yōu)化的網(wǎng)絡(luò),而且正在加速。

      所以,需求大于供應(yīng),這就是新產(chǎn)品通常會面臨的問題。我們盡可能快地工作,以滿足需求。但總的來說,我們的供應(yīng)正在非常順利地增加。

      TDCowen分析師Matt Ramsey:

      下午好,Jason,我的問題由兩部分組成,涉及到Stacy剛剛提到的供不應(yīng)求的問題。首先是,貴公司如何考慮產(chǎn)品分配以滿足客戶的需求,以及是否監(jiān)控產(chǎn)品庫存情況避免庫存積累。

      然后我想,Jason,我真的很想聽聽你和英偉達(dá)在客戶之間分配產(chǎn)品的想法,許多客戶競相搶奪芯片,從行業(yè)到小型初創(chuàng)公司,從醫(yī)療保健領(lǐng)域到政府。這是一項(xiàng)非常獨(dú)特的技術(shù)活,你正在推動它,我非常想聽聽你如何思考如何公平分配,才能在保障公司利益的同時兼顧整個行業(yè)利益。

      黃仁勛:

      首先回答你關(guān)于我們?nèi)绾闻c客戶合作搭建GPU實(shí)例以及我們的分配流程的問題。

      我們合作的客戶一直是多年來的長期合作伙伴,我們一直在協(xié)助他們在云端部署以及內(nèi)部設(shè)置。許多服務(wù)提供商同時運(yùn)營多個產(chǎn)品,以滿足終端用戶各種需求以及內(nèi)部需求。

      當(dāng)然,他們會提前規(guī)劃新集群所需配置,我們不僅討論當(dāng)前的Hopper架構(gòu),也幫助他們了解下一波產(chǎn)品,聽取他們的興趣和需求。所以他們的采購和構(gòu)建內(nèi)容是一個持續(xù)變化的過程。但是我們建立的關(guān)系和他們對構(gòu)建復(fù)雜性的理解確實(shí)幫助了我們進(jìn)行分配,并且兩者都有助于我們與他們的溝通。

      首先,我們的CSP對產(chǎn)品路線圖和迭代有非常清晰的了解。我們與他們的透明溝通讓其對產(chǎn)品放置時間和地點(diǎn)很有信心。他們了解產(chǎn)品的時間線和大致供應(yīng)量。在分配上,我們盡量公平分配,避免不必要分配。如你之前說的,如果數(shù)據(jù)中心沒準(zhǔn)備好,分配沒有任何意義。沒有什么比閑置資源公平分配和避免不必要的分配更困難的了。

      關(guān)于你問到的終端市場,我們有一個優(yōu)秀的生態(tài)系統(tǒng),包括OEM、ODM、CSP和非常重要的終端市場。

      英偉達(dá)真正的獨(dú)特之處是我們?yōu)楹献骰锇楹涂蛻舸顦?。我們將云服?wù)供應(yīng)商和代工與醫(yī)療、金融、AI開發(fā)者、大語言模型開發(fā)者、自動駕駛公司、機(jī)器人公司等客戶連接。正在出現(xiàn)的各種機(jī)器人創(chuàng)業(yè)公司,從倉儲機(jī)器人、手術(shù)機(jī)器人、人形機(jī)器人、各種非常有趣的機(jī)器人公司、農(nóng)業(yè)機(jī)器人公司

      到外科到人形機(jī)器人。所有這些創(chuàng)業(yè)公司和大公司都是構(gòu)建在我們平臺之上。我們直接支持他們。通常,我們可以通過分配給云服務(wù)供應(yīng)商并同時將客戶引入云服務(wù)供應(yīng)商來實(shí)現(xiàn)雙贏。

      獨(dú)特的地方在于我們帶來了我們的客戶,我們帶來了我們的合作伙伴、CSP和Oem,我們?yōu)樗麄儙砹丝蛻?。生物公司、醫(yī)療保健公司、金融服務(wù)公司、AI開發(fā)商、大型語言模型開發(fā)商、自動駕駛汽車公司、機(jī)器人公司。只有一大批機(jī)器人公司正在崛起。他們的倉庫機(jī)器人、手術(shù)機(jī)器人、人形機(jī)器人、農(nóng)業(yè)機(jī)器人……各種非常有趣的機(jī)器人公司,所有這些初創(chuàng)公司都在幫助醫(yī)療保健、金融服務(wù)和汽車等領(lǐng)域的大公司在英偉達(dá)平臺上工作。我們直接支持他們。通常,我們可以通過分配給CSP并同時將客戶引入CSP來實(shí)現(xiàn)雙贏。

      所以這個生態(tài)系統(tǒng),你說得對,它是充滿活力的,但在它的核心,我們希望公平分配,避免資源浪費(fèi),尋找連接合作伙伴和終端用戶的機(jī)會,我們一直在尋找這些機(jī)會。

      瑞銀分析師Timothy R.Curry:

      非常感謝。我想問一下你們?nèi)绾螌⒎e壓訂單轉(zhuǎn)化為收入。顯然,您的產(chǎn)品交貨時間已經(jīng)大大縮短了,但Colette沒有談?wù)搸齑尜徺I承諾,但如果我把加上你們獲得的庫存采購承諾和預(yù)付支持供應(yīng),你知道的,你的供應(yīng)總和,實(shí)際上有點(diǎn)下降。我們應(yīng)該如何解讀這種下降?是因?yàn)榻回洉r間縮短,英偉達(dá)不需要對供應(yīng)商作出那么大的財務(wù)承諾了嗎?還是英偉達(dá)正在接近填補(bǔ)訂單和積壓訂單的平衡狀態(tài)?

      Colette Kress:

      是的,讓我強(qiáng)調(diào)一下我們對供應(yīng)的三個不同方面的看法。你說得對,我們手頭的庫存,考慮到我們正在進(jìn)行的分配,我們正在努力,因?yàn)樨浧啡霂旌罅⒓窗l(fā)給客戶。我認(rèn)為客戶會贊賞我們滿足他們需要的交貨時間表的能力。

      其次,我們的購買承諾有很多不同組成部分,不僅包括我們生產(chǎn)所需的組件,也包括我們滿足產(chǎn)能所需的組件,需求時間長度不一,其中一些可能會持續(xù)兩個季度,但其中一些可能會持續(xù)多年。

      預(yù)付款也是一樣,它們都是為了確保我們在幾家供應(yīng)商那里獲得未來所需的備用產(chǎn)能。

      所以不應(yīng)該過分解讀這些大致相同的數(shù)字,因?yàn)槲覀冋谔岣吖?yīng)量。所有這些都有不同的時間跨度,因?yàn)槲覀冇袝r不得不提前很長時間購買東西或?yàn)槲覀兘a(chǎn)能。

      Melius Research分析師Ben Reitzes:

      好的,謝謝。恭喜取得了如此亮眼的成績。Colette,我想談?wù)勀銓τ诿实目捶ǎ鼈兓氐搅?5%左右的水平,這是因?yàn)樾庐a(chǎn)品中HBM內(nèi)存含量嗎?您認(rèn)為還有其他原因嗎?非常感謝。

      Colette Kress:

      是的,感謝您的問題。正如我們在開場白中強(qiáng)調(diào)的,我們第四季度的業(yè)績和第一季度的展望都比較特殊。這兩個季度的毛利率也都是獨(dú)特的,因?yàn)樗鼈兌际芤嬗诠?yīng)鏈中的組件成本,這種益處覆蓋了我們的計算和網(wǎng)絡(luò)產(chǎn)品,以及制造過程的多個階段。

      展望未來,我們預(yù)測本財年的毛利率將回歸到75%左右的水平,回到我們在第四季度和第一季度峰值之前的水平。所以真正驅(qū)動未來全年的毛利率的是我們產(chǎn)品組合,這將是最重要的驅(qū)動因素。這些就是驅(qū)動毛利率的主要因素。

      Cantra Fitzgerald分析師CJ Muse:

      下午好,Jason,GPU算力在過去十年提升了100萬倍,面對這種飛速提升,英偉達(dá)客戶如何看待他們今天所做的英偉達(dá)投資的長期可用性。今天用于訓(xùn)練的系統(tǒng)未來是否還可以用于推理。你認(rèn)為這會如何發(fā)展?

      黃仁勛:

      謝謝你的問題。是的,真正酷的地方在于,我們能夠極大地提升性能,那是因?yàn)槲覀兊钠脚_有兩大特點(diǎn):一是加速的能力,二是可編程性。

      英偉達(dá)是唯一一個從最初就始終如一的架構(gòu),從最開始的卷積神經(jīng)網(wǎng)絡(luò),Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton首次提出的AlexNet,到RNN、LSTM、RLS,再到Transformers,比如Vision Transformers、Multi-modality Transformers 等,每一個AI的變種模型,我們都能支持它們,優(yōu)化我們的堆棧,并將其部署到我們安裝的用戶設(shè)備基礎(chǔ)上。

      這真的是最了不起的地方。一方面,我們可以發(fā)明新的架構(gòu)和技術(shù),像我們的Tensor Core(張量核心),張量核心轉(zhuǎn)換引擎,改進(jìn)數(shù)據(jù)格式和處理結(jié)構(gòu),就像在Tensor Core中所做的工作那樣。

      同時,我們也支持原有的安裝基礎(chǔ)。因此,我們的所有新軟件算法創(chuàng)新,以及行業(yè)的所有新模型創(chuàng)新,都可以在一個基礎(chǔ)上運(yùn)行。另一方面,當(dāng)我們看到革命性的東西,例如轉(zhuǎn)換器,我們可以創(chuàng)建全新的東西,像Hopper轉(zhuǎn)換引擎,并在未來進(jìn)行應(yīng)用。

      因此,我們同時擁有將軟件引入安裝基礎(chǔ)并不斷改進(jìn)的能力,因此隨著時間的推移,我們的客戶安裝基礎(chǔ)隨著我們的新軟件而豐富。另一方面,新技術(shù)創(chuàng)造了革命性的能力。

      如果未來一代在LLM上出現(xiàn)突破,不要感到驚訝。這些突破,其中一些是軟件方面的,因?yàn)樗鼈冞\(yùn)行在CUDA平臺上,提供給安裝基礎(chǔ)。所以我們帶著所有人一起前進(jìn)。一方面,我們?nèi)〉镁薮笸黄?另一方面,我們支持原有基礎(chǔ)。

      Piper Sandler分析師Harsh Kumar:

      我想談?wù)動ミ_(dá)的軟件業(yè)務(wù),很高興聽到它的營收超過10億美元。但我希望,Jensen或Collatif,幫助我們稍微拆解一下,以便我們更好地了解該業(yè)務(wù)的增長源。

      黃仁勛:

      讓我退后一步解釋,英偉達(dá)在軟件中非常成功的根本原因。

      首先,你知道,加速計算真正在云端蓬勃發(fā)展。CSP有非常大的工程團(tuán)隊(duì), 我們與他們合作的方式允許他們運(yùn)營和管理自己的業(yè)務(wù)。。如果有任何問題,我們會派出大型團(tuán)隊(duì)為他們服務(wù)。他們的工程團(tuán)隊(duì)直接與我們的工程團(tuán)隊(duì)對接,改進(jìn)、修復(fù)、維護(hù)、修復(fù)復(fù)雜的加速計算軟件棧。

      加速計算和通用計算截然不同,并不是從C++這樣的程序開始,編譯后在所有CPU上運(yùn)行。從數(shù)據(jù)處理、結(jié)構(gòu)化數(shù)據(jù)與所有圖像、文本、PDF這樣的非結(jié)構(gòu)化數(shù)據(jù),到經(jīng)典機(jī)器學(xué)習(xí)、計算機(jī)視覺、語音、大語言模型,再到所有推薦系統(tǒng),每個領(lǐng)域都需要不同的軟件棧。這就是為什么英偉達(dá)有數(shù)百個軟件庫的原因。沒有軟件就無法開拓新市場,無法啟用新的應(yīng)用。軟件對加速計算來說是基礎(chǔ)。

      如您所知,加速計算與通用計算非常不同。你不是從C++這樣的程序開始的。你編譯它,一切都在你的所有CPU上運(yùn)行。每個領(lǐng)域所需的軟件堆棧從數(shù)據(jù)處理、SQL數(shù)據(jù)庫、結(jié)構(gòu)數(shù)據(jù)與所有圖像、文本和PDF(非結(jié)構(gòu)化)到經(jīng)典機(jī)器學(xué)習(xí)、計算機(jī)視覺、語音、兩個大型語言模型、所有推薦系統(tǒng),所有這些都需要不同的軟件堆棧。

      這就是英偉達(dá)擁有數(shù)百個庫的原因。如果你沒有軟件,你就無法打開新市場。如果您沒有軟件,則無法打開和啟用新應(yīng)用程序。軟件對于加速計算至關(guān)重要。

      這是加速計算和通用計算之間的根本區(qū)別,大多數(shù)人花了很長時間才理解,現(xiàn)在人們明白,軟件在我們與CSP合作的方式中非常關(guān)鍵。這非常簡單,我們的大型團(tuán)隊(duì)正在與他們的大型團(tuán)隊(duì)合作。然而,現(xiàn)在生成式AI使每個企業(yè)和企業(yè)軟件公司都能擁抱加速計算,擁抱加速計算現(xiàn)在是必需的,僅僅依靠通用計算提高處理量已不再可行。所有這些企業(yè)軟件公司和企業(yè)公司都沒有大型工程團(tuán)隊(duì)來維護(hù)和優(yōu)化他們的軟件堆棧,以在全球所有云和私有云以及本地運(yùn)行。

      因此,我們將對他們所有的軟件堆棧進(jìn)行管理、優(yōu)化、修補(bǔ)、調(diào)整,優(yōu)化安裝基礎(chǔ)。我們將它們?nèi)萜骰轿覀兊亩褩V校覀兎Q之為英偉達(dá)AIEnterprise。我們將其推向市場的方式是將英偉達(dá)AIEnterprise視為運(yùn)行時,就像操作系統(tǒng)一樣。這是一個人工智能操作系統(tǒng)。我們每年對每個GPU收取4500美元。我的猜測是,世界上的每一家企業(yè),每一家在所有云和私有云中部署軟件的軟件企業(yè)公司。首先,我們將在英偉達(dá)AI企業(yè)上運(yùn)行,尤其是,你知道,顯然是為了我們的GPU。因此,隨著時間的推移,這可能會成為一項(xiàng)非常重要的業(yè)務(wù)。我們有一個很好的開始。Collette提到它已經(jīng)以10億美元的速度增長,我們才剛剛開始。

      黃仁勛閉會總結(jié):

      計算機(jī)行業(yè)正在同時向兩個方向轉(zhuǎn)變 (加速計算與生成式 AI)。

      價值數(shù)萬億美元的數(shù)據(jù)中心安裝基礎(chǔ)正在從通用計算轉(zhuǎn)向加速計算。每個數(shù)據(jù)中心都將得到加速,使世界能夠在提高處理量來滿足計算需求的同時,管理成本和能源。英偉達(dá)實(shí)現(xiàn)了令人難以置信的加速,它實(shí)現(xiàn)了一種全新的計算范式,即生成式 AI,其中軟件可以學(xué)習(xí)、理解和生成從人類語言到生物結(jié)構(gòu)和 3D 世界的任何信息。

      我們現(xiàn)在正處于一個新興行業(yè)的開端,專用AI數(shù)據(jù)中心處理大量原始數(shù)據(jù)以將其提煉成數(shù)字智能,就像上一場工業(yè)革命的交流發(fā)電廠。英偉達(dá)AI超級計算機(jī)實(shí)際上是這場工業(yè)革命的AI生成工廠。

      每個公司和每個行業(yè)從根本上來說都是建立在其專有的商業(yè)智能之上,在未來,他們專有的生成式AI啟動了一個全新的投資周期,以構(gòu)建下一個萬億美元的AI生成工廠基礎(chǔ)設(shè)施。

      我們相信,這兩大趨勢將推動未來 5 年內(nèi)使全球數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝量翻一番,每年創(chuàng)造數(shù)千億美元的市場機(jī)會。這種新的人工智能基礎(chǔ)設(shè)施將開辟一個今天不可能實(shí)現(xiàn)的全新應(yīng)用世界。

      我們與超大規(guī)模云提供商和消費(fèi)者互聯(lián)網(wǎng)公司一起開啟了人工智能之旅。現(xiàn)在,從汽車、醫(yī)療保健、金融服務(wù)到工業(yè)電信、媒體和娛樂,每個行業(yè)都參與其中。英偉達(dá)的全棧計算平臺具有特定行業(yè)的應(yīng)用框架以及龐大的開發(fā)者和合作伙伴生態(tài)系統(tǒng),為我們提供了速度、規(guī)模和影響力,幫助每個公司、每個行業(yè)的公司成為人工智能公司。

      在下個月于圣何塞舉行的GTC上,我們有很多東西要與您分享,所以請務(wù)必加入我們。我們期待向您介紹下季度的最新進(jìn)展。

    新聞來源:華爾街見聞

    相關(guān)文章