LC：人工智能毫無(wú)懸念主宰了2024年Hot Chips大會(huì)

  ICC訊  今年的年度Hot Chips會(huì)議代表了生成式人工智能（AI）炒作周期的頂峰。符合這一主題，OpenAI的Trevor Cai在他的主旨演講中強(qiáng)調(diào)了AI計(jì)算的重要性。然而，在一個(gè)以技術(shù)披露聞名的會(huì)議上，商用芯片供應(yīng)商的展示令人失望；盡管有一系列精彩的演講，但幾乎沒(méi)有新的細(xì)節(jié)浮出水面。英偉達(dá)關(guān)于Blackwell的演講大多重復(fù)了之前公布的信息。不過(guò)，在“一張圖片勝過(guò)千言萬(wàn)語(yǔ)”的時(shí)刻，一張幻燈片上展示了下面所示的GB200 NVL36機(jī)架的照片。

  許多客戶更偏愛(ài)耗電較少的NVL36配置，而不是需要巨大電力支持（每機(jī)架120千瓦）的NVL72配置。對(duì)于讀者來(lái)說(shuō)，關(guān)鍵的區(qū)別在于，機(jī)架中間顯示的NVLink交換托盤具有前面板籠子，而用于NVL72的“不可擴(kuò)展”NVLink交換托盤只有用于NVLink脊/背板的后面板連接器。盡管英偉達(dá)省略了布線細(xì)節(jié)，但外部NVLink線纜可能包括無(wú)源（DAC）和有源銅（ACC/AEC）以及可插拔光學(xué)器件。NVL36為布線創(chuàng)造了一個(gè)新的市場(chǎng)細(xì)分，盡管短期內(nèi)主要針對(duì)銅纜。

  英特爾早在今年四月份就宣布了其Gaudi 3 AI加速器，但重溫一下它的網(wǎng)絡(luò)規(guī)格還是值得的。新芯片集成了24個(gè)200G以太網(wǎng)端口，使用48個(gè)112G SerDes。像微軟的Maia一樣，Gaudi 3芯片可以直接連接以進(jìn)行擴(kuò)展，并通過(guò)交換機(jī)進(jìn)行集群擴(kuò)展。集成網(wǎng)卡支持RoCE協(xié)議，實(shí)現(xiàn)低延遲RDMA數(shù)據(jù)傳輸。在另一個(gè)演講中，英特爾再次討論了4Tbps光計(jì)算互連（OCI）芯粒。演講者強(qiáng)調(diào)了激光集成的價(jià)值，并指出迄今為止已發(fā)貨的超過(guò)3000萬(wàn)個(gè)激光器所展現(xiàn)的0.1FIT可靠性。

  博通展示了其適用于帶光接口的人工智能計(jì)算ASIC的共封裝光學(xué)（CPO）技術(shù)。雖然演講的第一部分主要介紹了Bailly CPO交換機(jī)，但后半部分包含了一些有關(guān)XPU的CPO的新細(xì)節(jié)和概念。公司引入了“Oceanfront”這個(gè)概念，它不同于硅Beachfront。將光學(xué)引擎附著到CoWoS封裝基板上，為CPO提供了比硅中介層更多的線性空間。演講還提出了在未來(lái)光學(xué)引擎中使用雙向（bidi）信號(hào)的概念，以將所需的光纖數(shù)量減少一半。

  也許商用芯片供應(yīng)商在今年讓位于數(shù)據(jù)中心運(yùn)營(yíng)商是合適的。畢竟，后者正在推動(dòng)對(duì)AI基礎(chǔ)設(shè)施的大規(guī)模投資。AI架構(gòu)的多樣性應(yīng)該有利于供應(yīng)鏈，在英偉達(dá)定制的全棧解決方案之外創(chuàng)造機(jī)會(huì)。