片上光互連:未來單芯片算力提升的重要路徑

訊石光通訊網(wǎng) 2023/12/18 16:06:27

 ICC訊 今年火爆的AI應(yīng)用也帶火了數(shù)據(jù)中心市場,AI服務(wù)器需求暴增。不僅是AI大模型的規(guī)模在不斷擴(kuò)張至千億級參數(shù),還有越來越多不同類型的大模型訓(xùn)練和推理,都需要更強(qiáng)大的算力集群。

  在一個(gè)多服務(wù)器構(gòu)成的算力系統(tǒng)中,互連速率其實(shí)很大程度上決定著整個(gè)系統(tǒng)的性能上限,因此在片間互連方面,也開始采用CPO光電合封技術(shù),將交換芯片和光電器件封裝在一起,使得光電器件與芯片之間的數(shù)據(jù)傳輸損耗減小、提高傳輸速度。

  但另一方面,由于半導(dǎo)體晶體管密度的提升速度放緩,單個(gè)計(jì)算節(jié)點(diǎn)中,比如單張AI加速卡上的芯片采用Chiplet技術(shù)成為了趨勢,即多個(gè)小的“芯?!狈庋b在一起,通過互連組成一個(gè)整體的計(jì)算引擎。而為了提高chiplet設(shè)計(jì)的性能,芯片內(nèi)部多個(gè)die之間的互連也非常關(guān)鍵。ONoC(Optical Network-on-Chip)片上光互連正是為了解決這個(gè)問題。

  片上光互連:晶圓級的光互連網(wǎng)絡(luò)

  從結(jié)構(gòu)上看,片上光互連其實(shí)是一種光子集成芯片技術(shù),將不同功能的有源器件和無源器件集成在同一塊光電基板上。光電基板上具有光子路由波導(dǎo),這些波導(dǎo)被用于數(shù)據(jù)通信,和用于電路走線的多層金屬層。CMOS電芯片堆疊在硅光芯片上,在光電基板上形成二維陣列。

  光從基板上的激光光源中發(fā)出,輸入到基板上的路由波導(dǎo),通過波導(dǎo)到達(dá)光芯片上的調(diào)制器。這個(gè)時(shí)候電芯片上的信息數(shù)據(jù),通過電芯片和光芯片之間的微凸塊加載到環(huán)形調(diào)制器中,將數(shù)字1和0轉(zhuǎn)換為光的強(qiáng)度差異。

  調(diào)制后的光信號通過光電基板上的波導(dǎo)傳播,到達(dá)其他光芯片上的光電探測器中。這個(gè)時(shí)候光信號就被轉(zhuǎn)換成電信號,這些信息就被不同的電芯片所接收。

  當(dāng)然在實(shí)際應(yīng)用中,每個(gè)CMOS芯片和光芯片之間,都有數(shù)以千計(jì)的微凸塊被用于數(shù)據(jù)傳輸。因?yàn)楣庑盘杺鞑ゲ恍枰~導(dǎo)線,損耗小,延遲低,這樣就實(shí)現(xiàn)了在光電基板上進(jìn)行高能效、高帶寬密度、低延遲的光互連。

  從工作原理上看,其實(shí)可以大致分析出片上光互連的核心器件主要是激光器、調(diào)制器和接收器。要想提高片上光互連的傳輸容量,可以使用波分復(fù)用、偏振復(fù)用、模分復(fù)用等技術(shù)實(shí)現(xiàn)。

  目前,針對單一物理維度光信號的復(fù)用、解復(fù)用設(shè)備已經(jīng)相對成熟。為了進(jìn)一步提高片上光互連系統(tǒng)的通道數(shù)量和傳輸容量,多種復(fù)用方式的綜合運(yùn)用成為了重要的研究趨勢。例如,波長-偏振-模式混合復(fù)用等技術(shù)能夠顯著提升片上光互連系統(tǒng)的性能。此外,片上光互連架構(gòu)的設(shè)計(jì)與選擇對性能的提升也具有不可忽視的作用。片上光互連架構(gòu)不僅決定了片上網(wǎng)絡(luò)中不同節(jié)點(diǎn)的互連方式,同時(shí)也影響了路由器的端口數(shù)量和網(wǎng)絡(luò)鏈路數(shù)量,進(jìn)一步影響了網(wǎng)絡(luò)的時(shí)延、功耗和可靠性等性能指標(biāo)。

  因此,綜合運(yùn)用多種復(fù)用方式并優(yōu)化片上光互連架構(gòu)是片上光互連發(fā)展的重要趨勢。

  距離落地應(yīng)用還有多遠(yuǎn)?

  目前片上光互連技術(shù)主要處于實(shí)驗(yàn)室階段,還未大規(guī)模量產(chǎn)。業(yè)界的主要玩家包括一些高校和研究機(jī)構(gòu),比如美國加州大學(xué)圣巴巴拉分校、加州伯克利大學(xué)、荷蘭的埃因霍溫科技大學(xué)和特溫特大學(xué)、美國集成光子制造研究所、中科院半導(dǎo)體所等。另外也有英特爾、曦智科技等廠商在推動相關(guān)技術(shù)的產(chǎn)業(yè)化。

  英特爾在今年的Hot CHIPS會議上,展示了一款代號為“Piuma”的8核528線程處理器,而這款處理器的最大特點(diǎn)在于,采用了硅光子互連,能夠提供1TB/s的光學(xué)帶寬,可以將多達(dá)131,072個(gè)芯片連接在一起,形成一個(gè)大型共享內(nèi)存的圖形處理超級計(jì)算機(jī)。

  在Piuma組成的超級計(jì)算機(jī)中,路由器就是網(wǎng)絡(luò),所有設(shè)備都通過 HyperX 拓?fù)溥M(jìn)行連接,每個(gè)機(jī)架內(nèi)將有16個(gè)Piuma芯片。不過英特爾目前還未決定Piuma芯片是否會進(jìn)行商業(yè)化,他們表示,如果有客戶提供資金支持,公司將會很樂意生產(chǎn)這款產(chǎn)品。

  曦智科技近幾年一直在片上光互連技術(shù)上努力推進(jìn)商業(yè)化,今年HiPChips會議上,曦智科技展示了其片上光互連技術(shù)上的最新進(jìn)展,該系統(tǒng)的通道數(shù)為512,單通道最長廣播距離為50mm,廣播延時(shí)1ns,單通道頻率4GHz,片上總帶寬達(dá)到2Tbps。實(shí)測數(shù)據(jù)顯示,該計(jì)算系統(tǒng)完成多個(gè)計(jì)算核之間All-to-All的數(shù)據(jù)廣播,這將大幅提高每個(gè)計(jì)算核的算力利用率。

  而基于該片上光互連技術(shù),曦智科技正在推動第一款商用級光電混合計(jì)算加速卡的商業(yè)化落地,未來將搭載曦智科技自研軟件棧,在商用場景下發(fā)揮片上光互連低延遲、低功耗的優(yōu)勢。

  小結(jié):

  在芯片受限于制程工藝、晶體管密度提高放緩的情況下,通過芯粒的設(shè)計(jì)將多個(gè)die封裝在同一基板上成為了突破單芯片性能的一條重要路線。而這條路線的關(guān)鍵在于片上互連技術(shù)的發(fā)展,片上光互連技術(shù)也為未來的chiplet設(shè)計(jì)路線提供了更多的可能。

作者: 梁浩斌

新聞來源:電子發(fā)燒友網(wǎng)

相關(guān)文章