OFC 2024: IPEC成功舉辦AI時(shí)代低時(shí)延高速光互聯(lián)技術(shù)研討會(huì)

  ICC訊 OFC 2024期間，國際光電委員會(huì)（IPEC）成功舉辦“低時(shí)延高速光互聯(lián)技術(shù)，釋放AI澎湃算力”主題研討會(huì)，聚焦探討AI大模型、新算力和新一代低時(shí)延高速光互聯(lián)技術(shù)的發(fā)展趨勢和創(chuàng)新方向，共同構(gòu)建面向未來的智能、高效光聯(lián)接世界。

  本次研討會(huì)由IPEC先進(jìn)技術(shù)工作組主席、索爾思光電首席工程師 Frank Chang主持，云集了來自Futurewei、華工正源、海信寬帶、百度等業(yè)界專家代表與會(huì)，共同討論面向AI計(jì)算的下一代光互聯(lián)技術(shù)。

OFC 2024 – SF25, IPEC Session

  IEEE P802.3dj Task Force 主席、Futurewei公司杰出工程師 John D'Ambrosia首先分享了“面向AI時(shí)代的高速以太網(wǎng)”主題演講。John指出，當(dāng)今以太網(wǎng)端口最高速率已升級到800 GbE，并且1.6 TbE光互聯(lián)技術(shù)也在研究當(dāng)中，而在以太網(wǎng)發(fā)展的過程中，時(shí)延一直是重要話題：隨著速率的提升，以太網(wǎng)對時(shí)延的影響逐漸減少；而時(shí)延對以太網(wǎng)發(fā)展的“貢獻(xiàn)”越來越大。John分享了一個(gè)有趣的案例，就是AI數(shù)據(jù)中心中的時(shí)延分布，案例顯示與以太網(wǎng)幀和FEC幀相關(guān)的時(shí)延隨著速率的提高而顯著降低，通常傳播時(shí)延（5 ns/m）占據(jù)著主導(dǎo)地位。但是在AI數(shù)據(jù)中心場景下，由于光纖互聯(lián)范圍通常小于2公里，傳播時(shí)延對AI訓(xùn)練效率影響較小，相對而言在更高層次上的時(shí)延優(yōu)化（鏈路層、傳輸層和應(yīng)用層）將有更大的收益。以太網(wǎng)仍在不斷發(fā)展、演變，了解真正的“時(shí)延”需求至關(guān)重要，只有真正了解清楚，才能獲得最平衡、最適合應(yīng)用的“最優(yōu)”時(shí)延。

  華工正源研發(fā)副總裁Jim Theodoras分享了AI計(jì)算為光電子領(lǐng)域帶來的變化，在2024 GTC大會(huì)上，英偉達(dá)發(fā)布Blackwell GB200 NVL72計(jì)算平臺(tái)，該系統(tǒng)采用NVLINK互聯(lián)，其中的Cable Cartridges全部采用銅互連方式替代光模塊，能夠節(jié)省20kW功耗。銅纜的特點(diǎn)在于成本低、能耗小，但傳輸距離近、帶寬小，所以當(dāng)AI計(jì)算需求超出單機(jī)架GPU能力，而需要跨機(jī)架的GPU協(xié)同工作時(shí)，采用光聯(lián)接則將具有顯著增加GPU集群規(guī)模的巨大潛力。Jim指出，早在AI成為熱點(diǎn)之前，光電子行業(yè)就開發(fā)出 LPO (Linear Pluggable Optics，線性可插拔光學(xué))，以節(jié)省功耗；AI行業(yè)很快看到了LPO與AI的巨大契合點(diǎn)：LPO完美適用于所有規(guī)格的以太網(wǎng)、Infiniband和NVlink連接技術(shù)。Jim認(rèn)為，當(dāng)今的光電子及其外延技術(shù)的進(jìn)步和成果， 讓光學(xué)閃耀，未來光學(xué)器件不應(yīng)只注重在功耗上的單一競爭，而應(yīng)專注于實(shí)現(xiàn)更具創(chuàng)新的技術(shù)發(fā)展上。

  百度資深光網(wǎng)絡(luò)架構(gòu)師朱宸博士介紹了OCS在AI高性能計(jì)算網(wǎng)絡(luò)中的應(yīng)用實(shí)踐。OCS通過其全光交換的優(yōu)勢，實(shí)現(xiàn)光信號的透明傳輸、支持光纖中任意速率/調(diào)制格式/通信波長光信號的交換，并具有無時(shí)鐘抖動(dòng)、無延遲、不讀取數(shù)據(jù)、無泄漏風(fēng)險(xiǎn)等特點(diǎn)。在AI集群中，在傳統(tǒng)clos網(wǎng)絡(luò)架構(gòu)中的server和tor之間嵌入小矩陣OCS、配合SDN控制器可以在不中斷訓(xùn)練任務(wù)的前提下實(shí)現(xiàn)網(wǎng)絡(luò)故障快速恢復(fù)，大大提升了整個(gè)計(jì)算集群的可用性；而同時(shí)大矩陣OCS可以與傳統(tǒng)電交換機(jī)實(shí)現(xiàn)光電混合組網(wǎng)，有效的支撐大規(guī)模訓(xùn)練的通信需求，同時(shí)可以在成本、功耗、時(shí)延、穩(wěn)定性等多個(gè)方面提供相應(yīng)的優(yōu)勢。

  海信寬帶副總經(jīng)理周建英博士分享了面向AI集群應(yīng)用的低時(shí)延高速光技術(shù)。周博士指出，人工智能（AI）驅(qū)動(dòng)下，光模塊的需求持續(xù)增長，成為算力集群通信能力提升的關(guān)鍵。未來，隨著AI網(wǎng)絡(luò)向多模態(tài)發(fā)展，光模塊的應(yīng)用將進(jìn)一步擴(kuò)大，LPO等新興技術(shù)也在不斷被探討，進(jìn)一步實(shí)現(xiàn)AI帶來的高算力場景下的低功耗、低時(shí)延、高效能。LPO因免DSP可以大幅降低數(shù)據(jù)中心光學(xué)器件的功耗、成本、和傳播時(shí)延，目前的展望是 AI的大多數(shù)光學(xué)器件將采用線性驅(qū)動(dòng)，1.6T LPO采用高性能200G/Lane的SERDES、低RF損耗互連和改進(jìn)的線性光學(xué)器件（驅(qū)動(dòng)器+調(diào)制器）是可行的。周博士介紹，海信已經(jīng)開發(fā)了多種技術(shù)的LPO模塊，包括VCSEL、EML、硅光(SiP)、TFLN。展望未來，隨著AI數(shù)據(jù)中心不斷增長的性能和帶寬需求，光學(xué)互聯(lián)技術(shù)必將迎來更多重大革新和應(yīng)用。

  IPEC理事會(huì)主席、中國電信首席專家李俊杰表示：“IPEC很高興在OFC上與全球光電產(chǎn)業(yè)伙伴共商技術(shù)趨勢，共話產(chǎn)業(yè)未來的機(jī)遇和挑戰(zhàn)；在AI算力驅(qū)動(dòng)下，光電產(chǎn)業(yè)將再次迎來跨越式發(fā)展的良機(jī)，IPEC將秉承建立充分開放、透明、公平、公正的光電標(biāo)準(zhǔn)和光電子產(chǎn)業(yè)平臺(tái)的理念，希望與光電產(chǎn)業(yè)同仁協(xié)同，共同推動(dòng)前沿光電子技術(shù)和產(chǎn)業(yè)成熟、共同開啟面向AI時(shí)代的高速光聯(lián)接技術(shù)演進(jìn)新篇章?！?

  關(guān)于IPEC

  IPEC國際光電委員會(huì)（www.ipec-std.org）致力于建立充分開放、透明、公平、公正的光電標(biāo)準(zhǔn)和光電子產(chǎn)業(yè)平臺(tái)，并聚焦于光芯片、光/電器件、光模塊和其他相關(guān)領(lǐng)域解決方案的標(biāo)準(zhǔn)化和戰(zhàn)略路標(biāo)研究，以滿足5G、物聯(lián)網(wǎng)、人工智能等市場應(yīng)用的光電需求。

  IPEC注冊于瑞士，對任何有意愿加入的單位開放。所有成員單位均有機(jī)會(huì)在公平、透明的基礎(chǔ)上參與IPEC標(biāo)準(zhǔn)的制定。

  關(guān)于OFC 2024

  2024年美國光纖通訊展覽會(huì)及研討會(huì)（Optical Fiber Communication Conference & Exposition）由美國光學(xué)學(xué)會(huì)（原OSA）、美國通信學(xué)會(huì)（IEEE/ComSoc）、美國激光與光電協(xié)會(huì)（IEEE/LEOS）聯(lián)合主辦，于3月26日~28日在美國加利福尼亞州圣地亞哥舉行。OFC是全球光電光通訊展覽中最重要的活動(dòng)，1975年創(chuàng)辦，目前已被公認(rèn)為全球光通信領(lǐng)域中規(guī)格最高、規(guī)模最大、歷史最悠久、專業(yè)性最強(qiáng)、影響力最大的國際性盛會(huì)。