英偉達(dá)電話會(huì)：預(yù)計(jì)下一代芯片B100供不應(yīng)求，全球數(shù)據(jù)中心安裝量未來5年翻一番

  ICC訊 黃仁勛認(rèn)為，整個(gè)數(shù)據(jù)中心行業(yè)正在經(jīng)歷一次全新的變革。

  他在當(dāng)?shù)貢r(shí)間周三召開的英偉達(dá)財(cái)報(bào)電話會(huì)上表示，AI工廠作為一種新型的數(shù)據(jù)中心，將數(shù)據(jù)轉(zhuǎn)化為極具價(jià)值的“代幣”，比如人們在使用ChatGPT、Midjourney等服務(wù)中體驗(yàn)到的東西。

  黃仁勛表示，計(jì)算機(jī)行業(yè)正同時(shí)處于加速計(jì)算與生成式AI轉(zhuǎn)型的開端，這將推動(dòng)全球數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝量在未來5年內(nèi)翻一番，創(chuàng)造每年數(shù)千億美元的市場機(jī)會(huì)。

  考慮到廣闊的市場前景，黃仁勛稱，2024年及以后，數(shù)據(jù)中心業(yè)務(wù)持續(xù)增長的條件都非常優(yōu)秀，預(yù)計(jì)AI Enterprise未來會(huì)成為一項(xiàng)非常重要的業(yè)務(wù)。

  至于英偉達(dá)是否進(jìn)軍ASIC(專用芯片設(shè)計(jì))市場，黃仁勛并沒有做直接回答。

  英偉達(dá)CFO Colette Kress則在財(cái)報(bào)電話會(huì)議時(shí)表示，雖然當(dāng)前GPU的供應(yīng)正在改善，但需求仍然強(qiáng)勁，預(yù)計(jì)下一代產(chǎn)品的市場需求將超過供給，尤其是預(yù)計(jì)今年晚些時(shí)候發(fā)貨的新一代芯片B100。他表示，“構(gòu)建和部署AI解決方案已經(jīng)觸及幾乎每一個(gè)行業(yè)”，預(yù)計(jì)數(shù)據(jù)中心基礎(chǔ)設(shè)施規(guī)模將在五年內(nèi)翻番。

  當(dāng)?shù)貢r(shí)間周三公布的財(cái)報(bào)顯示，英偉達(dá)四季度營收同比猛增265%至221億美元，高于分析師預(yù)期的204.1億美元，單季度收入甚至高于2021年全年。最大營收來源數(shù)據(jù)中心部門，四季度營收達(dá)到184億美元，同比暴增409%。

  英偉達(dá)營收和利潤已連續(xù)三個(gè)季度創(chuàng)歷史紀(jì)錄，2024全財(cái)年?duì)I收增長126%。

  以下是英偉達(dá)第四季度財(cái)報(bào)電話會(huì)分析師問答全文內(nèi)容：

  高盛Toshiya Hari：

  我的問題是關(guān)于數(shù)據(jù)中心業(yè)務(wù)的，Jensen(黃仁勛)。

  很明顯，你知道你在這個(gè)行業(yè)做得非常好。我很好奇你對2024-2025日歷年的數(shù)據(jù)中心業(yè)務(wù)的預(yù)期，過去三個(gè)月內(nèi)有何變化?。

  希望您能談?wù)剶?shù)據(jù)中心領(lǐng)域中的一些新興方向，比如軟件、主權(quán)AI等。我認(rèn)為您已經(jīng)非常明確地表達(dá)了中長期的問題。

  最近有一篇關(guān)于英偉達(dá)可能進(jìn)軍ASIC(專用芯片設(shè)計(jì))市場的文章，這有任何可信度嗎?如果是這樣，英偉達(dá)在未來幾年內(nèi)在這個(gè)市場上競爭和發(fā)展?

  黃仁勛：

  對于第一個(gè)問題。

  我們一次性指引一個(gè)季度，但從根本上講，2024-2025年及以后的持續(xù)增長環(huán)境非常好。理由是，我們正處于兩個(gè)全行業(yè)轉(zhuǎn)型的開端，這兩個(gè)轉(zhuǎn)型都是全行業(yè)的。

  第一個(gè)是從通用計(jì)算到加速計(jì)算的轉(zhuǎn)變，如您所知，通用計(jì)算開始失去動(dòng)力。你可以從云服務(wù)提供商(CSP)的擴(kuò)張和許多數(shù)據(jù)中心中看出，包括我們自己的通用計(jì)算中心，它可以將折舊從四年延長到六年。但當(dāng)它不能像以前那樣從根本上顯著提高其數(shù)據(jù)處理量時(shí)，就沒有理由使用更多CPU進(jìn)行更新，因此必須加速一切。

  這是英偉達(dá)一直在開創(chuàng)的。加速計(jì)算可以顯著提高LNG 效率，可以將數(shù)據(jù)處理成本下降20倍，這是一個(gè)巨大的數(shù)字。當(dāng)然，還有速度。

  這種速度令人難以置信，以至于我們今天實(shí)現(xiàn)了第二次全行業(yè)的轉(zhuǎn)型，稱為生成式AI。

  是的，我們可以，我相信我們會(huì)在通話中談?wù)摵芏啵堄涀。墒紸I是一種新的應(yīng)用。它正在賦能一種新的軟件生成方式，新類型的軟件正在被創(chuàng)建。這是一種新的計(jì)算方式。您可以在傳統(tǒng)的通用計(jì)算設(shè)備上進(jìn)行生成式AI的任務(wù)。這一過程必須得到加速。

  第三，它正在賦能一個(gè)全新的行業(yè)，這是值得退一步審視的事情，與你最后一個(gè)關(guān)于主權(quán)AI的問題有關(guān)。

  在某種意義上，整個(gè)數(shù)據(jù)中心行業(yè)正在經(jīng)歷一次全新的變革。傳統(tǒng)上的數(shù)據(jù)中心僅僅被用來計(jì)算數(shù)據(jù)、存儲(chǔ)數(shù)據(jù)、為公司員工提供服務(wù)，現(xiàn)在，我們有了一種新型的數(shù)據(jù)中心，它專注于AI生成。我曾把它描述為AI工廠，本質(zhì)上利用原材料，也就是數(shù)據(jù)，用英偉達(dá)生產(chǎn)的這些AI超級(jí)計(jì)算機(jī)來改造數(shù)據(jù)，將其轉(zhuǎn)化為極具價(jià)值的“代幣”。

  這些“代幣”就是人們在震撼的ChatGPT、Midjourney或者現(xiàn)在搜索等服務(wù)中體驗(yàn)到的東西，所有這些推薦系統(tǒng)現(xiàn)在都由此增強(qiáng)。

  與此相關(guān)的所有超個(gè)性化服務(wù)，這些不可思議的初創(chuàng)公司，生成蛋白質(zhì)、化學(xué)物質(zhì)的數(shù)字生物學(xué)等等，所有這些“代幣”都是在一種非常專業(yè)化的數(shù)據(jù)中心內(nèi)生成的。我們稱這種數(shù)據(jù)中心為AI超級(jí)計(jì)算機(jī)和AI生成工廠。

  但是我們看到的是多樣性，我們在這一方面取得了許多進(jìn)步。第一，我們做的推理量已經(jīng)飆升，幾乎每一次你和ChatGPT互動(dòng)，我們都在做推理，每次你使用Midjourney時(shí)，我們也在做推理。每次你看到這些令人驚嘆的生成視頻，或者Runway、Firefly編輯的視頻，英偉達(dá)都在做推理，我們的推理業(yè)務(wù)擴(kuò)張巨大，大約在40%左右。

  訓(xùn)練量正在繼續(xù)增加，因?yàn)檫@些模型變得越來越大，推理量也在增長，但我們也正在多樣化進(jìn)入新的行業(yè)。大型CSP仍在繼續(xù)擴(kuò)張。你可以從他們的資本支出和討論中看出來。企業(yè)軟件平臺(tái)正在部署AI服務(wù)，Adobe就是一個(gè)很好的例子，還有SAP和其他公司。

  還有，消費(fèi)者互聯(lián)網(wǎng)服務(wù)現(xiàn)在正在通過生成式AI來增強(qiáng)他們所有的服務(wù)，以創(chuàng)建更多超個(gè)性化的內(nèi)容。

  我們在談?wù)摴I(yè)化的生成式AI?？偟膩碚f，以汽車、金融服務(wù)和醫(yī)療保健為的首垂直行業(yè)，現(xiàn)在已經(jīng)達(dá)到了數(shù)十億美元的規(guī)模。

  當(dāng)然，還有主權(quán)AI。

  提出主權(quán)AI的原因是每個(gè)地區(qū)的語言、知識(shí)、歷史和文化不同，他們擁有自己的數(shù)據(jù)。

  他們想要利用自己的數(shù)據(jù)，數(shù)據(jù)訓(xùn)練AI模型，開發(fā)數(shù)字化智能服務(wù)，創(chuàng)造屬于自己的AI體系。世界各地的數(shù)據(jù)都不一樣。

  因?yàn)檫@些數(shù)據(jù)對本國最有價(jià)值，因此各國會(huì)保護(hù)本國的數(shù)據(jù)，自己處理數(shù)據(jù)，自己開發(fā)、提供AI服務(wù)，而不是依賴外部AI系統(tǒng)。

  所以我們看到，日本、加拿大、法國、我和許多其他地區(qū)正在建設(shè)主權(quán)AI基礎(chǔ)設(shè)施。因此，我的期望是，美國西部的經(jīng)驗(yàn)，肯定會(huì)在世界各地復(fù)制。未來這些AI代工廠將遍布每個(gè)行業(yè)、每個(gè)公司、每個(gè)地區(qū)。

  所以我認(rèn)為，生成式AI已經(jīng)在去年真正成為一個(gè)全新的應(yīng)用空間，一種全新的計(jì)算方式。一個(gè)全新的產(chǎn)業(yè)正在形成，這推動(dòng)了我們的增長。

  摩根士丹利分析師Joe Moore：

  40%的收入來自推理業(yè)務(wù)，這比我預(yù)期的要大。這個(gè)比例一年前大概是什么水平，大模型相關(guān)的推理業(yè)務(wù)增長了多少?英偉達(dá)是如何測量這一比例的?是否可靠?因?yàn)槲壹僭O(shè)在某些情況下，同一塊GPU既可以用來訓(xùn)練也能夠用來推理。

  黃仁勛：

  我倒過來說，這個(gè)比例可能被低估了。讓我告訴你為什么。一年前，當(dāng)人們使用互聯(lián)網(wǎng)、瀏覽新聞、觀看視頻、聽音樂、查看推薦產(chǎn)品時(shí)，面對的是數(shù)萬億的數(shù)據(jù)，而假設(shè)你的手機(jī)只有三英寸，要將所有這些信息整合到如此小的空間中，需要強(qiáng)大的推薦系統(tǒng)。

  這些推薦系統(tǒng)過去全部基于CPU，但在最近轉(zhuǎn)向了深度學(xué)習(xí)和生成式AI，這些推薦系統(tǒng)直接受益于GPU的加速。

  它需要GPU來加速嵌入、近鄰搜索、重新排名，以及生成個(gè)性化推薦信息，所以現(xiàn)在的推薦系統(tǒng)運(yùn)行的每一步都需要GPU。如你所知，推薦系統(tǒng)是這個(gè)星球上最大的軟件引擎。世界上幾乎所有主要公司都需要運(yùn)行這些大型推薦系統(tǒng)。

  每當(dāng)你使用ChatGPT就是在推斷，每當(dāng)你聽到中途和他們?yōu)橄M(fèi)者產(chǎn)生的東西的數(shù)量。當(dāng)你看到Getty時(shí)，我們用Getty和來自Adobe的Firefly所做的工作，這些都是生成模型。列表還在繼續(xù)。這些我一年前提到的都不存在，都是100%新的。

  每當(dāng)你使用ChatGPT時(shí)就是在做推理，Midjourney也是一樣。我們與Getty、Adobe、Firefly等的合作，以及這些應(yīng)用生成式模型，這些還在不斷增加。我剛才提到的所有這些，一年前都不存在，100%都是新的。

  Bernstein Research分析師Stacy Rasgon：

  你們預(yù)計(jì)下一代產(chǎn)品會(huì)面臨供不應(yīng)求，我想深入了解這方面的情況，導(dǎo)致下一代產(chǎn)品供應(yīng)緊張的原因是什么?既然GPU供應(yīng)正在放松，為什么下一代產(chǎn)品還會(huì)出現(xiàn)供不應(yīng)求的局面。

  你預(yù)計(jì)這種限制會(huì)持續(xù)多久?是否意味著整個(gè)2025年日歷年，下一代產(chǎn)品都會(huì)出現(xiàn)供應(yīng)短缺。

  黃仁勛：

  總的來說，我們的供應(yīng)正在改善。我們的供應(yīng)鏈做得非常出色，從晶圓，封裝，存儲(chǔ)，所有的電源調(diào)節(jié)器，到收發(fā)器、網(wǎng)絡(luò)、電纜等我們所用到的組件，供應(yīng)都在改善。。如您所知，人們認(rèn)為英偉達(dá)GPU只是一塊芯片，但英偉達(dá)Hopper GPU由35000個(gè)零件組成，重70磅。這些東西是我們制造的非常復(fù)雜的東西，人們稱之為AI超級(jí)計(jì)算機(jī)是有充分理由的。如果你看看數(shù)據(jù)中心的后面，系統(tǒng)，布線令人難以置信。它是世界上最密集、最復(fù)雜的網(wǎng)絡(luò)布線系統(tǒng)。

  我們的InfiniBand業(yè)務(wù)同比增長了5倍。供應(yīng)鏈為我們提供了很大支持。所以總體來說，供應(yīng)正在改善。我們預(yù)計(jì)需求仍會(huì)大于供給，我們會(huì)全力以赴。制程周期正在縮短，我們會(huì)繼續(xù)努力。

  然而，正如你所知，每當(dāng)我們開發(fā)新產(chǎn)品時(shí)，它就會(huì)從零上升到非常大的數(shù)字，這不可能在一夜之間完成。一切都在加速，但它不會(huì)。因此，當(dāng)我們開發(fā)出新一代產(chǎn)品后，無法在短期內(nèi)完全滿足需求，現(xiàn)在我們正在增加H200的供應(yīng)。

  我們也在擴(kuò)大構(gòu)建Spectrum-X平臺(tái)。這是我們進(jìn)入以太網(wǎng)世界的全新產(chǎn)品，目前已取得非常好的進(jìn)展。InfiniBand是AI專用系統(tǒng)的標(biāo)準(zhǔn)，我們在以太網(wǎng)的基礎(chǔ)新功能之上進(jìn)行了增強(qiáng)，如自適應(yīng)路由、擁塞控制、噪聲隔離或流量隔離，以便我們可以針對AI優(yōu)化以太網(wǎng)。因此，InfiniBand將是我們AI專用基礎(chǔ)設(shè)施。Spectrum-X將是我們AI優(yōu)化的網(wǎng)絡(luò)，而且正在加速。

  所以，需求大于供應(yīng)，這就是新產(chǎn)品通常會(huì)面臨的問題。我們盡可能快地工作，以滿足需求。但總的來說，我們的供應(yīng)正在非常順利地增加。

  TDCowen分析師Matt Ramsey：

  下午好，Jason，我的問題由兩部分組成，涉及到Stacy剛剛提到的供不應(yīng)求的問題。首先是，貴公司如何考慮產(chǎn)品分配以滿足客戶的需求，以及是否監(jiān)控產(chǎn)品庫存情況避免庫存積累。

  然后我想，Jason，我真的很想聽聽你和英偉達(dá)在客戶之間分配產(chǎn)品的想法，許多客戶競相搶奪芯片，從行業(yè)到小型初創(chuàng)公司，從醫(yī)療保健領(lǐng)域到政府。這是一項(xiàng)非常獨(dú)特的技術(shù)活，你正在推動(dòng)它，我非常想聽聽你如何思考如何公平分配，才能在保障公司利益的同時(shí)兼顧整個(gè)行業(yè)利益。

  黃仁勛：

  首先回答你關(guān)于我們?nèi)绾闻c客戶合作搭建GPU實(shí)例以及我們的分配流程的問題。

  我們合作的客戶一直是多年來的長期合作伙伴，我們一直在協(xié)助他們在云端部署以及內(nèi)部設(shè)置。許多服務(wù)提供商同時(shí)運(yùn)營多個(gè)產(chǎn)品，以滿足終端用戶各種需求以及內(nèi)部需求。

  當(dāng)然，他們會(huì)提前規(guī)劃新集群所需配置，我們不僅討論當(dāng)前的Hopper架構(gòu)，也幫助他們了解下一波產(chǎn)品，聽取他們的興趣和需求。所以他們的采購和構(gòu)建內(nèi)容是一個(gè)持續(xù)變化的過程。但是我們建立的關(guān)系和他們對構(gòu)建復(fù)雜性的理解確實(shí)幫助了我們進(jìn)行分配，并且兩者都有助于我們與他們的溝通。

  首先，我們的CSP對產(chǎn)品路線圖和迭代有非常清晰的了解。我們與他們的透明溝通讓其對產(chǎn)品放置時(shí)間和地點(diǎn)很有信心。他們了解產(chǎn)品的時(shí)間線和大致供應(yīng)量。在分配上，我們盡量公平分配，避免不必要分配。如你之前說的，如果數(shù)據(jù)中心沒準(zhǔn)備好，分配沒有任何意義。沒有什么比閑置資源公平分配和避免不必要的分配更困難的了。

  關(guān)于你問到的終端市場，我們有一個(gè)優(yōu)秀的生態(tài)系統(tǒng)，包括OEM、ODM、CSP和非常重要的終端市場。

  英偉達(dá)真正的獨(dú)特之處是我們?yōu)楹献骰锇楹涂蛻舸顦?。我們將云服?wù)供應(yīng)商和代工與醫(yī)療、金融、AI開發(fā)者、大語言模型開發(fā)者、自動(dòng)駕駛公司、機(jī)器人公司等客戶連接。正在出現(xiàn)的各種機(jī)器人創(chuàng)業(yè)公司，從倉儲(chǔ)機(jī)器人、手術(shù)機(jī)器人、人形機(jī)器人、各種非常有趣的機(jī)器人公司、農(nóng)業(yè)機(jī)器人公司

  到外科到人形機(jī)器人。所有這些創(chuàng)業(yè)公司和大公司都是構(gòu)建在我們平臺(tái)之上。我們直接支持他們。通常，我們可以通過分配給云服務(wù)供應(yīng)商并同時(shí)將客戶引入云服務(wù)供應(yīng)商來實(shí)現(xiàn)雙贏。

  獨(dú)特的地方在于我們帶來了我們的客戶，我們帶來了我們的合作伙伴、CSP和Oem，我們?yōu)樗麄儙砹丝蛻?。生物公司、醫(yī)療保健公司、金融服務(wù)公司、AI開發(fā)商、大型語言模型開發(fā)商、自動(dòng)駕駛汽車公司、機(jī)器人公司。只有一大批機(jī)器人公司正在崛起。他們的倉庫機(jī)器人、手術(shù)機(jī)器人、人形機(jī)器人、農(nóng)業(yè)機(jī)器人……各種非常有趣的機(jī)器人公司，所有這些初創(chuàng)公司都在幫助醫(yī)療保健、金融服務(wù)和汽車等領(lǐng)域的大公司在英偉達(dá)平臺(tái)上工作。我們直接支持他們。通常，我們可以通過分配給CSP并同時(shí)將客戶引入CSP來實(shí)現(xiàn)雙贏。

  所以這個(gè)生態(tài)系統(tǒng)，你說得對，它是充滿活力的，但在它的核心，我們希望公平分配，避免資源浪費(fèi)，尋找連接合作伙伴和終端用戶的機(jī)會(huì)，我們一直在尋找這些機(jī)會(huì)。

  瑞銀分析師Timothy R.Curry：

  非常感謝。我想問一下你們?nèi)绾螌⒎e壓訂單轉(zhuǎn)化為收入。顯然，您的產(chǎn)品交貨時(shí)間已經(jīng)大大縮短了，但Colette沒有談?wù)搸齑尜徺I承諾，但如果我把加上你們獲得的庫存采購承諾和預(yù)付支持供應(yīng)，你知道的，你的供應(yīng)總和，實(shí)際上有點(diǎn)下降。我們應(yīng)該如何解讀這種下降?是因?yàn)榻回洉r(shí)間縮短，英偉達(dá)不需要對供應(yīng)商作出那么大的財(cái)務(wù)承諾了嗎?還是英偉達(dá)正在接近填補(bǔ)訂單和積壓訂單的平衡狀態(tài)?

  Colette Kress：

  是的，讓我強(qiáng)調(diào)一下我們對供應(yīng)的三個(gè)不同方面的看法。你說得對，我們手頭的庫存，考慮到我們正在進(jìn)行的分配，我們正在努力，因?yàn)樨浧啡霂旌罅⒓窗l(fā)給客戶。我認(rèn)為客戶會(huì)贊賞我們滿足他們需要的交貨時(shí)間表的能力。

  其次，我們的購買承諾有很多不同組成部分，不僅包括我們生產(chǎn)所需的組件，也包括我們滿足產(chǎn)能所需的組件，需求時(shí)間長度不一，其中一些可能會(huì)持續(xù)兩個(gè)季度，但其中一些可能會(huì)持續(xù)多年。

  預(yù)付款也是一樣，它們都是為了確保我們在幾家供應(yīng)商那里獲得未來所需的備用產(chǎn)能。

  所以不應(yīng)該過分解讀這些大致相同的數(shù)字，因?yàn)槲覀冋谔岣吖?yīng)量。所有這些都有不同的時(shí)間跨度，因?yàn)槲覀冇袝r(shí)不得不提前很長時(shí)間購買東西或?yàn)槲覀兘a(chǎn)能。

  Melius Research分析師Ben Reitzes：

  好的，謝謝。恭喜取得了如此亮眼的成績。Colette，我想談?wù)勀銓τ诿实目捶ǎ鼈兓氐搅?5%左右的水平，這是因?yàn)樾庐a(chǎn)品中HBM內(nèi)存含量嗎?您認(rèn)為還有其他原因嗎?非常感謝。

  Colette Kress：

  是的，感謝您的問題。正如我們在開場白中強(qiáng)調(diào)的，我們第四季度的業(yè)績和第一季度的展望都比較特殊。這兩個(gè)季度的毛利率也都是獨(dú)特的，因?yàn)樗鼈兌际芤嬗诠?yīng)鏈中的組件成本，這種益處覆蓋了我們的計(jì)算和網(wǎng)絡(luò)產(chǎn)品，以及制造過程的多個(gè)階段。

  展望未來，我們預(yù)測本財(cái)年的毛利率將回歸到75%左右的水平，回到我們在第四季度和第一季度峰值之前的水平。所以真正驅(qū)動(dòng)未來全年的毛利率的是我們產(chǎn)品組合，這將是最重要的驅(qū)動(dòng)因素。這些就是驅(qū)動(dòng)毛利率的主要因素。

  Cantra Fitzgerald分析師CJ Muse：

  下午好，Jason，GPU算力在過去十年提升了100萬倍，面對這種飛速提升，英偉達(dá)客戶如何看待他們今天所做的英偉達(dá)投資的長期可用性。今天用于訓(xùn)練的系統(tǒng)未來是否還可以用于推理。你認(rèn)為這會(huì)如何發(fā)展?

  黃仁勛：

  謝謝你的問題。是的，真正酷的地方在于，我們能夠極大地提升性能，那是因?yàn)槲覀兊钠脚_(tái)有兩大特點(diǎn)：一是加速的能力，二是可編程性。

  英偉達(dá)是唯一一個(gè)從最初就始終如一的架構(gòu)，從最開始的卷積神經(jīng)網(wǎng)絡(luò)，Alex Krizhevsky、Ilya Sutskever和Geoffrey Hinton首次提出的AlexNet，到RNN、LSTM、RLS，再到Transformers，比如Vision Transformers、Multi-modality Transformers 等，每一個(gè)AI的變種模型，我們都能支持它們，優(yōu)化我們的堆棧，并將其部署到我們安裝的用戶設(shè)備基礎(chǔ)上。

  這真的是最了不起的地方。一方面，我們可以發(fā)明新的架構(gòu)和技術(shù)，像我們的Tensor Core(張量核心)，張量核心轉(zhuǎn)換引擎，改進(jìn)數(shù)據(jù)格式和處理結(jié)構(gòu)，就像在Tensor Core中所做的工作那樣。

  同時(shí)，我們也支持原有的安裝基礎(chǔ)。因此，我們的所有新軟件算法創(chuàng)新，以及行業(yè)的所有新模型創(chuàng)新，都可以在一個(gè)基礎(chǔ)上運(yùn)行。另一方面，當(dāng)我們看到革命性的東西，例如轉(zhuǎn)換器，我們可以創(chuàng)建全新的東西，像Hopper轉(zhuǎn)換引擎，并在未來進(jìn)行應(yīng)用。

  因此，我們同時(shí)擁有將軟件引入安裝基礎(chǔ)并不斷改進(jìn)的能力，因此隨著時(shí)間的推移，我們的客戶安裝基礎(chǔ)隨著我們的新軟件而豐富。另一方面，新技術(shù)創(chuàng)造了革命性的能力。

  如果未來一代在LLM上出現(xiàn)突破，不要感到驚訝。這些突破，其中一些是軟件方面的，因?yàn)樗鼈冞\(yùn)行在CUDA平臺(tái)上，提供給安裝基礎(chǔ)。所以我們帶著所有人一起前進(jìn)。一方面，我們?nèi)〉镁薮笸黄?另一方面，我們支持原有基礎(chǔ)。

  Piper Sandler分析師Harsh Kumar：

  我想談?wù)動(dòng)ミ_(dá)的軟件業(yè)務(wù)，很高興聽到它的營收超過10億美元。但我希望，Jensen或Collatif，幫助我們稍微拆解一下，以便我們更好地了解該業(yè)務(wù)的增長源。

  黃仁勛：

  讓我退后一步解釋，英偉達(dá)在軟件中非常成功的根本原因。

  首先，你知道，加速計(jì)算真正在云端蓬勃發(fā)展。CSP有非常大的工程團(tuán)隊(duì)， 我們與他們合作的方式允許他們運(yùn)營和管理自己的業(yè)務(wù)。。如果有任何問題，我們會(huì)派出大型團(tuán)隊(duì)為他們服務(wù)。他們的工程團(tuán)隊(duì)直接與我們的工程團(tuán)隊(duì)對接，改進(jìn)、修復(fù)、維護(hù)、修復(fù)復(fù)雜的加速計(jì)算軟件棧。

  加速計(jì)算和通用計(jì)算截然不同，并不是從C++這樣的程序開始，編譯后在所有CPU上運(yùn)行。從數(shù)據(jù)處理、結(jié)構(gòu)化數(shù)據(jù)與所有圖像、文本、PDF這樣的非結(jié)構(gòu)化數(shù)據(jù)，到經(jīng)典機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、語音、大語言模型，再到所有推薦系統(tǒng)，每個(gè)領(lǐng)域都需要不同的軟件棧。這就是為什么英偉達(dá)有數(shù)百個(gè)軟件庫的原因。沒有軟件就無法開拓新市場，無法啟用新的應(yīng)用。軟件對加速計(jì)算來說是基礎(chǔ)。

  如您所知，加速計(jì)算與通用計(jì)算非常不同。你不是從C++這樣的程序開始的。你編譯它，一切都在你的所有CPU上運(yùn)行。每個(gè)領(lǐng)域所需的軟件堆棧從數(shù)據(jù)處理、SQL數(shù)據(jù)庫、結(jié)構(gòu)數(shù)據(jù)與所有圖像、文本和PDF(非結(jié)構(gòu)化)到經(jīng)典機(jī)器學(xué)習(xí)、計(jì)算機(jī)視覺、語音、兩個(gè)大型語言模型、所有推薦系統(tǒng)，所有這些都需要不同的軟件堆棧。

  這就是英偉達(dá)擁有數(shù)百個(gè)庫的原因。如果你沒有軟件，你就無法打開新市場。如果您沒有軟件，則無法打開和啟用新應(yīng)用程序。軟件對于加速計(jì)算至關(guān)重要。

  這是加速計(jì)算和通用計(jì)算之間的根本區(qū)別，大多數(shù)人花了很長時(shí)間才理解，現(xiàn)在人們明白，軟件在我們與CSP合作的方式中非常關(guān)鍵。這非常簡單，我們的大型團(tuán)隊(duì)正在與他們的大型團(tuán)隊(duì)合作。然而，現(xiàn)在生成式AI使每個(gè)企業(yè)和企業(yè)軟件公司都能擁抱加速計(jì)算，擁抱加速計(jì)算現(xiàn)在是必需的，僅僅依靠通用計(jì)算提高處理量已不再可行。所有這些企業(yè)軟件公司和企業(yè)公司都沒有大型工程團(tuán)隊(duì)來維護(hù)和優(yōu)化他們的軟件堆棧，以在全球所有云和私有云以及本地運(yùn)行。

  因此，我們將對他們所有的軟件堆棧進(jìn)行管理、優(yōu)化、修補(bǔ)、調(diào)整，優(yōu)化安裝基礎(chǔ)。我們將它們?nèi)萜骰轿覀兊亩褩Ｖ校覀兎Q之為英偉達(dá)AIEnterprise。我們將其推向市場的方式是將英偉達(dá)AIEnterprise視為運(yùn)行時(shí)，就像操作系統(tǒng)一樣。這是一個(gè)人工智能操作系統(tǒng)。我們每年對每個(gè)GPU收取4500美元。我的猜測是，世界上的每一家企業(yè)，每一家在所有云和私有云中部署軟件的軟件企業(yè)公司。首先，我們將在英偉達(dá)AI企業(yè)上運(yùn)行，尤其是，你知道，顯然是為了我們的GPU。因此，隨著時(shí)間的推移，這可能會(huì)成為一項(xiàng)非常重要的業(yè)務(wù)。我們有一個(gè)很好的開始。Collette提到它已經(jīng)以10億美元的速度增長，我們才剛剛開始。

  黃仁勛閉會(huì)總結(jié)：

  計(jì)算機(jī)行業(yè)正在同時(shí)向兩個(gè)方向轉(zhuǎn)變 (加速計(jì)算與生成式 AI)。

  價(jià)值數(shù)萬億美元的數(shù)據(jù)中心安裝基礎(chǔ)正在從通用計(jì)算轉(zhuǎn)向加速計(jì)算。每個(gè)數(shù)據(jù)中心都將得到加速，使世界能夠在提高處理量來滿足計(jì)算需求的同時(shí)，管理成本和能源。英偉達(dá)實(shí)現(xiàn)了令人難以置信的加速，它實(shí)現(xiàn)了一種全新的計(jì)算范式，即生成式 AI，其中軟件可以學(xué)習(xí)、理解和生成從人類語言到生物結(jié)構(gòu)和 3D 世界的任何信息。

  我們現(xiàn)在正處于一個(gè)新興行業(yè)的開端，專用AI數(shù)據(jù)中心處理大量原始數(shù)據(jù)以將其提煉成數(shù)字智能，就像上一場工業(yè)革命的交流發(fā)電廠。英偉達(dá)AI超級(jí)計(jì)算機(jī)實(shí)際上是這場工業(yè)革命的AI生成工廠。

  每個(gè)公司和每個(gè)行業(yè)從根本上來說都是建立在其專有的商業(yè)智能之上，在未來，他們專有的生成式AI啟動(dòng)了一個(gè)全新的投資周期，以構(gòu)建下一個(gè)萬億美元的AI生成工廠基礎(chǔ)設(shè)施。

  我們相信，這兩大趨勢將推動(dòng)未來 5 年內(nèi)使全球數(shù)據(jù)中心基礎(chǔ)設(shè)施安裝量翻一番，每年創(chuàng)造數(shù)千億美元的市場機(jī)會(huì)。這種新的人工智能基礎(chǔ)設(shè)施將開辟一個(gè)今天不可能實(shí)現(xiàn)的全新應(yīng)用世界。

  我們與超大規(guī)模云提供商和消費(fèi)者互聯(lián)網(wǎng)公司一起開啟了人工智能之旅。現(xiàn)在，從汽車、醫(yī)療保健、金融服務(wù)到工業(yè)電信、媒體和娛樂，每個(gè)行業(yè)都參與其中。英偉達(dá)的全棧計(jì)算平臺(tái)具有特定行業(yè)的應(yīng)用框架以及龐大的開發(fā)者和合作伙伴生態(tài)系統(tǒng)，為我們提供了速度、規(guī)模和影響力，幫助每個(gè)公司、每個(gè)行業(yè)的公司成為人工智能公司。

  在下個(gè)月于圣何塞舉行的GTC上，我們有很多東西要與您分享，所以請務(wù)必加入我們。我們期待向您介紹下季度的最新進(jìn)展。