ICC訊 6月26日,2024年上海世界移動(dòng)通信大會(huì)啟幕,中興通訊總裁徐子陽(yáng)應(yīng)邀出席同日舉辦的“人工智能先行”主題演講和以“5G-A×AI”為主題的GTI國(guó)際產(chǎn)業(yè)大會(huì)(上海),分享中興通訊在人工智能浪潮下的數(shù)智實(shí)踐與創(chuàng)新。
在“人工智能先行”主題演講中,徐子陽(yáng)以《匠心筑基,開(kāi)放共贏》為題展開(kāi)分享。他表示,當(dāng)前全球已經(jīng)進(jìn)入AI驅(qū)動(dòng)的產(chǎn)業(yè)革命,但除了幻覺(jué)、安全和倫理等問(wèn)題外,生成式AI發(fā)展還面臨算力、能耗、數(shù)據(jù)集、標(biāo)準(zhǔn)化及商業(yè)應(yīng)用等挑戰(zhàn)。對(duì)于AI進(jìn)階,中興通訊秉承開(kāi)放解耦、以網(wǎng)強(qiáng)算、訓(xùn)推并舉的核心主張,同時(shí)以客戶價(jià)值為核心,提供從算力、網(wǎng)絡(luò)、能力、智力到應(yīng)用的全棧全場(chǎng)景智算解決方案,以硬實(shí)力筑基,以軟實(shí)力啟智,靈活實(shí)現(xiàn)與客戶能力的優(yōu)勢(shì)互補(bǔ)和強(qiáng)強(qiáng)協(xié)作,賦能千行百業(yè)的數(shù)智化轉(zhuǎn)型需求,為經(jīng)濟(jì)高質(zhì)量發(fā)展注入源源不斷的動(dòng)能,共筑AI時(shí)代的美好未來(lái)。
在GTI國(guó)際產(chǎn)業(yè)大會(huì)(上海)中,徐子陽(yáng)參加GTI-GSMA 5G-A×AI合作簽約儀式并圍繞5G-A×AI這一主題,以《算網(wǎng)進(jìn)階,智創(chuàng)未來(lái)》為題發(fā)表演講。他結(jié)合當(dāng)下核心挑戰(zhàn)、解決方案和實(shí)踐案例,闡釋了傳統(tǒng)工業(yè)化向新型工業(yè)化的升級(jí)路徑,最重要的就是:結(jié)合數(shù)智技術(shù)在底層的核心突破、基礎(chǔ)設(shè)施的效率和能力升級(jí)、與行業(yè)Know-How的深度融合,加速數(shù)字和物理世界的交融,提升生產(chǎn)和交易效率,并構(gòu)建敏捷和自適應(yīng)組織,在不確定的未來(lái)中行穩(wěn)致遠(yuǎn)。中興通訊主張圍繞數(shù)字化、網(wǎng)絡(luò)化、智能化和低碳化四個(gè)緯度,突破現(xiàn)階段核心挑戰(zhàn)或掣肘,承前啟后繼往開(kāi)來(lái)。中興通訊將始終秉持創(chuàng)新引領(lǐng)、多樣互補(bǔ)、開(kāi)放利他的原則,以“開(kāi)放解耦、以網(wǎng)強(qiáng)算、以智升維、以綠奠基” 全力支持產(chǎn)業(yè)鏈健康可持續(xù)發(fā)展,繁榮數(shù)字經(jīng)濟(jì)。
以下為徐子陽(yáng)《匠心筑基,開(kāi)放共贏》主旨演講全文:
應(yīng)勢(shì)而變,賦能智能進(jìn)階
過(guò)去的一年多,大模型和生成式AI為數(shù)智浪潮推波助瀾,技術(shù)高速迭代,產(chǎn)品層出不窮,新場(chǎng)景和新業(yè)態(tài)蓄勢(shì)待發(fā)。雖然生成式AI依然處于發(fā)展初期,但大家已經(jīng)有普遍共識(shí),即全球已經(jīng)進(jìn)入AI驅(qū)動(dòng)的產(chǎn)業(yè)革命,AI將對(duì)生產(chǎn)生活的方方面面產(chǎn)生深遠(yuǎn)的影響和變革。人工智能將深刻重塑全球經(jīng)濟(jì)格局。業(yè)界咨詢機(jī)構(gòu)預(yù)測(cè),至2030年,AI將顯著推動(dòng)中國(guó)GDP增長(zhǎng)26%,北美GDP增長(zhǎng)14.5%,預(yù)計(jì)為全球貢獻(xiàn)約10.7萬(wàn)億美元的經(jīng)濟(jì)增長(zhǎng),占據(jù)全球影響的近七成。這一變革將為零售、金融服務(wù)和醫(yī)療保健等行業(yè)帶來(lái)前所未有的商業(yè)機(jī)遇。
除了幻覺(jué)、安全和倫理等問(wèn)題外,生成式AI發(fā)展還面臨算力、能耗、數(shù)據(jù)集、標(biāo)準(zhǔn)化及商業(yè)應(yīng)用等挑戰(zhàn),因此,需要從多個(gè)方面實(shí)現(xiàn)進(jìn)階發(fā)展,中興通訊提出算網(wǎng)進(jìn)階、訓(xùn)推并舉、開(kāi)放解耦的核心主張。首先是突破技術(shù)瓶頸,加強(qiáng)架構(gòu)、算法、算網(wǎng)和軟硬件協(xié)同優(yōu)化等研究,提升AI訓(xùn)練和推理效率;其次,以RAG、Agents等多種解決方案確??煽啃浴踩院涂山忉屝?,以實(shí)現(xiàn)大模型的廣泛應(yīng)用和更高價(jià)值,構(gòu)建數(shù)據(jù)飛輪,兼顧能力提升和商業(yè)閉環(huán);最后,以“開(kāi)放解耦”加速標(biāo)準(zhǔn)化,構(gòu)建繁榮的產(chǎn)業(yè)和商業(yè)生態(tài)。
算網(wǎng)進(jìn)階,打造高效基座
首先是算網(wǎng)進(jìn)階,打造高效基座。在智算領(lǐng)域,高速網(wǎng)絡(luò)連接不僅不可或缺,而且至關(guān)重要,無(wú)論是芯片內(nèi)裸Die互聯(lián)、芯片之間、服務(wù)器之間、DC之間,網(wǎng)絡(luò)連接技術(shù)的持續(xù)創(chuàng)新和突破,將極大的提升智算的性能與效率。
Die2Die即芯片內(nèi)的裸Die間高速互聯(lián)網(wǎng)絡(luò),結(jié)合自研的并口/串口全系列IP、成熟的2.5D/3D先進(jìn)封裝,支持異構(gòu)解構(gòu)和集成,一定程度上突破摩爾定律失效和工藝方面的制約,實(shí)現(xiàn)異構(gòu)計(jì)算和網(wǎng)絡(luò)處理在內(nèi)的多種芯片架構(gòu),提供更高的性能表現(xiàn)和更優(yōu)的性價(jià)比。
Chip2Chip即跨芯片之間的互聯(lián)網(wǎng)絡(luò),通過(guò)芯片間可分布式高速交換互聯(lián),及PCIe5/6、56G/112G/224G SerDes全系列高速接口結(jié)合的解決方案,更好地解決目前Mesh互聯(lián)靈活性差和帶寬利用率低的問(wèn)題,并進(jìn)一步突破算力芯片TP8/16互聯(lián)的規(guī)模瓶頸,更好地適應(yīng)復(fù)雜的大規(guī)模智算應(yīng)用場(chǎng)景的需求,為客戶提供差異化的競(jìng)爭(zhēng)優(yōu)勢(shì)。中興通訊也在積極參與中移全向智感高速互聯(lián)架構(gòu)(OISA)的推進(jìn)。另外,面向下一代102.4T網(wǎng)絡(luò)交換機(jī)光電異構(gòu)集成的需求,LPO(Linear-drive Pluggable Optics,線性驅(qū)動(dòng)可插拔光模塊)光電融合互聯(lián)和CPO(Co-packaged Optics,光電共封裝),均可極大地提升互聯(lián)密度,并降低能耗,同時(shí),布局光互連I/O,其在帶寬密度、功率效率、延遲方面將實(shí)現(xiàn)革命性的提升。
Server 2 Server即智算集群的互聯(lián)場(chǎng)景,中興通訊正全力配合中國(guó)移動(dòng),完善全調(diào)度以太網(wǎng)(GSE)產(chǎn)業(yè)生態(tài),打造無(wú)阻塞、高帶寬及超低時(shí)延的新型智算中心網(wǎng)絡(luò),在今年2月份,中興通訊積極參與了中國(guó)移動(dòng)組織的GSE原型機(jī)互聯(lián)互通測(cè)試,后續(xù)基于千卡和萬(wàn)卡場(chǎng)景驅(qū)動(dòng),共智合力,加速突破,積極助力鏈長(zhǎng)壯大產(chǎn)業(yè)發(fā)展。在自身能力上,中興通訊將持續(xù)推動(dòng)關(guān)鍵芯片的轉(zhuǎn)發(fā)能力從12.8T向51.2T能力升格,通過(guò)提供單層/盒盒/框盒的多樣化方案,更好的服務(wù)全域智算訓(xùn)練場(chǎng)景需要。
DC 2 DC屬?gòu)V域連接場(chǎng)景,400G光傳輸產(chǎn)業(yè)在中國(guó)運(yùn)營(yíng)商的引領(lǐng)下蓬勃發(fā)展,為“光電貫東西、一網(wǎng)通九州”的算間智聯(lián)打下了堅(jiān)實(shí)基礎(chǔ)。中興通訊正在全力支持國(guó)內(nèi)運(yùn)營(yíng)商全球規(guī)模最大400G OTN 商用網(wǎng)絡(luò)部署,驗(yàn)證了全場(chǎng)景Real 400G的大容量連接能力,聯(lián)合國(guó)內(nèi)運(yùn)營(yíng)商完成了基于S+C+L波段的單波T比特實(shí)時(shí)系統(tǒng)傳輸實(shí)驗(yàn),并創(chuàng)造了傳輸容量的世界記錄。后續(xù),中興通訊也將繼續(xù)發(fā)揮連接優(yōu)勢(shì),以網(wǎng)強(qiáng)算,打造算力網(wǎng)絡(luò)高效全光底座。
訓(xùn)推并舉,賦能實(shí)體經(jīng)濟(jì)
對(duì)于大模型在各行業(yè)的落地應(yīng)用,除了常規(guī)的幻覺(jué)、安全和倫理等問(wèn)題,還需要解決專業(yè)性、準(zhǔn)確性、魯棒性和可追溯性等一系列剛性場(chǎng)景下的挑戰(zhàn),同時(shí)在基礎(chǔ)大模型基礎(chǔ)上構(gòu)建領(lǐng)域模型時(shí),專業(yè)數(shù)據(jù)治理、增量訓(xùn)練等工程經(jīng)驗(yàn)和工具集等也至關(guān)重要。以電信自智網(wǎng)絡(luò)場(chǎng)景為例,大小模型結(jié)合、RAG(Retrieval Augmented Generation)、多智能體(Agents)協(xié)同、數(shù)字孿生、多模態(tài)CoT(Chain-of-Thought)等等技術(shù)創(chuàng)新,都已經(jīng)有所成效。
在AI應(yīng)用商業(yè)化的征途上,訓(xùn)推并舉是驅(qū)動(dòng)實(shí)體經(jīng)濟(jì)騰飛的關(guān)鍵。中國(guó)憑借豐富的應(yīng)用場(chǎng)景和私域數(shù)據(jù)資源,可以為全球AI產(chǎn)業(yè)做出巨大貢獻(xiàn)。為了充分發(fā)揮這一優(yōu)勢(shì),我們需要注重準(zhǔn)確性、專業(yè)性和推理效率的提升,同時(shí)加強(qiáng)領(lǐng)域數(shù)據(jù)治理和數(shù)字孿生技術(shù)的應(yīng)用。訓(xùn)推并舉,以訓(xùn)練創(chuàng)造能力,以推理和應(yīng)用驗(yàn)證價(jià)值,構(gòu)建數(shù)據(jù)飛輪,雙循環(huán)將進(jìn)一步促進(jìn)AI能力迭代和商業(yè)變現(xiàn),從而鍛造核心優(yōu)勢(shì)。
具體操作上,我們主張錨定高價(jià)值行業(yè)和天使客戶。天使客戶通常是行業(yè)中最具影響力的企業(yè),數(shù)字化基礎(chǔ)好,同時(shí)積極擁抱技術(shù)變革,并可以引領(lǐng)整個(gè)行業(yè)數(shù)智化進(jìn)程。通過(guò)與天使客戶的合作,數(shù)智技術(shù)與Know-How結(jié)合,優(yōu)勢(shì)互補(bǔ),并快速驗(yàn)證迭代技術(shù)方案,樹(shù)立標(biāo)桿?;谧匝谢蜷_(kāi)源基礎(chǔ)大模型,利用豐富的行業(yè)數(shù)據(jù)和知識(shí)工程構(gòu)建領(lǐng)域大模型,打造行業(yè)樣板,實(shí)現(xiàn)從0到1突破?;陬I(lǐng)域大模型,結(jié)合不同場(chǎng)景實(shí)現(xiàn)從1到N的應(yīng)用拓展。
開(kāi)放解耦,構(gòu)建繁榮生態(tài)
最后是開(kāi)放解耦,構(gòu)建繁榮生態(tài)。AI技術(shù)處于高速迭代期,但當(dāng)下依然普遍生態(tài)封閉,同時(shí)缺乏行業(yè)標(biāo)準(zhǔn),并帶來(lái)一系列問(wèn)題,比如重復(fù)開(kāi)發(fā)和資源浪費(fèi)、技術(shù)孤立和風(fēng)險(xiǎn)集中、選擇受限和供應(yīng)壟斷等,制約了AI的快速良性發(fā)展。
中興通訊倡導(dǎo)構(gòu)建全棧開(kāi)放的智算方案。在基礎(chǔ)設(shè)施層面,軟硬協(xié)同,最大化資源效率。硬件兼容適配國(guó)內(nèi)外主流GPU/CPU,支持OISA、RoCE/GSE等開(kāi)放標(biāo)準(zhǔn)的高速無(wú)損互聯(lián),為客戶提供多樣化的選擇;軟件支持異構(gòu)資源管理、訓(xùn)推作業(yè)調(diào)度和異構(gòu)集合通信等,在強(qiáng)化對(duì)多廠家GPU支持的同時(shí),為模型運(yùn)行提供高性能、高可靠的運(yùn)行環(huán)境;通過(guò)算力卸載及在網(wǎng)計(jì)算等技術(shù),大幅縮減數(shù)據(jù)讀寫(xiě)與傳輸時(shí)間,提升算力利用率。在能力平臺(tái)層面,適配PyTorch、TensorFlow等主流框架,自動(dòng)實(shí)現(xiàn)向后端平臺(tái)編譯和優(yōu)化,并提供從數(shù)據(jù)處理、模型開(kāi)發(fā)/訓(xùn)練/優(yōu)化/評(píng)估/部署等端到端的工程工具集,在支持全生命周期保障和管理的同時(shí),還應(yīng)支持算力原生、混池訓(xùn)練、高效推理、數(shù)據(jù)飛輪構(gòu)建等。在算力網(wǎng)絡(luò)層面,強(qiáng)化算網(wǎng)協(xié)同,支持應(yīng)用全域無(wú)感遷移。
“一花獨(dú)放不是春,百花齊放春滿園”,全棧開(kāi)放的智算方案將有利于開(kāi)放的技術(shù)生態(tài)和共贏的商業(yè)生態(tài)的構(gòu)建,是智算良性發(fā)展的關(guān)鍵。通過(guò)軟硬解耦、訓(xùn)推解耦、模型解耦,推動(dòng)各類能力組件化和共享賦能,加速AI技術(shù)的創(chuàng)新、研發(fā)、應(yīng)用和商業(yè)化進(jìn)程,構(gòu)建開(kāi)放的技術(shù)生態(tài);通過(guò)產(chǎn)業(yè)內(nèi)的芯片廠商、ICT硬件廠商、應(yīng)用開(kāi)發(fā)者、集成商、運(yùn)營(yíng)商的生態(tài)定位和優(yōu)勢(shì)互補(bǔ),共同做大做強(qiáng),實(shí)現(xiàn)共贏的商業(yè)生態(tài)。
筑基啟智,共創(chuàng)美好未來(lái)
中興通訊始終以客戶價(jià)值為核心,提供從算力、網(wǎng)絡(luò)、能力、智力到應(yīng)用的全棧全場(chǎng)景智算解決方案,并已形成高速互聯(lián)、在網(wǎng)計(jì)算、算力原生、無(wú)感遷移、數(shù)據(jù)處理和算法優(yōu)化等多個(gè)關(guān)鍵技術(shù)積累。一方面,中興通訊聚焦算力網(wǎng)絡(luò)的高效、綠色、安全,以硬實(shí)力筑基,以及能力應(yīng)用的靈活、敏捷、智慧,以軟實(shí)力啟智;另一方面以數(shù)字星云的組件式交易的全開(kāi)放研發(fā)架構(gòu),可分可合,靈活實(shí)現(xiàn)與客戶能力的優(yōu)勢(shì)互補(bǔ)和強(qiáng)強(qiáng)協(xié)作,賦能千行百業(yè)的數(shù)智化轉(zhuǎn)型需求。
在基礎(chǔ)設(shè)施領(lǐng)域,提供算、存、網(wǎng)、數(shù)據(jù)中心等全系列產(chǎn)品及方案,全面滿足從中心到邊緣的多樣化智算中心建設(shè)需求。在算力維度,芯片側(cè)兼容適配國(guó)內(nèi)外多廠家GPU/CPU,自研定海芯片支持RDMA標(biāo)卡、智能網(wǎng)卡、DPU卡等多種形態(tài),提供高性能、多樣化的算力內(nèi)核和硬件加速;整機(jī)側(cè),基于扣卡模組/PCIe插卡AI服務(wù)器、訓(xùn)推一體機(jī)等系列產(chǎn)品,靈活適配差異化場(chǎng)景;數(shù)據(jù)中心側(cè),依托風(fēng)液融合、彈性配電等節(jié)能技術(shù),打造PUE低至1.1、機(jī)柜功率密度最高達(dá)60kW的新型智算中心。在網(wǎng)絡(luò)維度,中興通訊與產(chǎn)業(yè)伙伴一起建立開(kāi)放的GPU互聯(lián)標(biāo)準(zhǔn)Olink(Openlink),也將全面融入中移OISA架構(gòu),在兼容現(xiàn)有RDMA協(xié)議實(shí)現(xiàn)機(jī)內(nèi)機(jī)間統(tǒng)一互聯(lián)技術(shù)的同時(shí),重點(diǎn)推動(dòng)機(jī)內(nèi)通信從Mesh互聯(lián)轉(zhuǎn)向交換互聯(lián)支持單機(jī)更大規(guī)模TP計(jì)算,降低連接復(fù)雜度,提升集群規(guī)模和效能;自研的RoCE網(wǎng)卡和盒式、框式RDMA交換機(jī),支持構(gòu)建百卡-萬(wàn)卡規(guī)模的智算集;Real 400G助力打造算力網(wǎng)絡(luò)高效全光底座。
在能力領(lǐng)域,算力統(tǒng)一云管平臺(tái)ZTE TECS支持異構(gòu)資源管理、訓(xùn)推作業(yè)調(diào)度和異構(gòu)集合通信;ZTE AIS訓(xùn)推平臺(tái),則支持擁有面向大模型的數(shù)據(jù)處理和模型開(kāi)發(fā)平臺(tái),提供大模型工程化全棧工具和引擎。在具體應(yīng)用場(chǎng)景中,如無(wú)感遷移可以實(shí)現(xiàn)5天可用,15天好用;高效推理實(shí)現(xiàn)千億模型單卡部署;數(shù)據(jù)自動(dòng)標(biāo)注,時(shí)間節(jié)約80%等等。
在智力方面,中興星云大模型集中發(fā)力算法創(chuàng)新、數(shù)據(jù)工程和高效算力平臺(tái)。星云基礎(chǔ)大模型包括2.5B/16B/40B/100B多種規(guī)模,可以覆蓋從手機(jī)、邊緣到中心云各種部署場(chǎng)景。在訓(xùn)練階段采用多階段預(yù)訓(xùn)練、中文詞表改進(jìn)、高質(zhì)量語(yǔ)料精煉、合成數(shù)據(jù)訓(xùn)練等多項(xiàng)技術(shù)創(chuàng)新,在算力需求降低50%的同時(shí)保證了模型訓(xùn)練效果。在推理效率方面,在保證模型準(zhǔn)確率不受影響的情況下,以權(quán)重INT4量化和KVCache FP8量化算法,節(jié)省推理資源3倍。星云通信大模型已完成千億級(jí)(9*20B)MoE(混合專家)大模型的訓(xùn)練,并且支持多模態(tài)輸入及十二萬(wàn)的有效上下文窗口,對(duì)通信業(yè)務(wù)場(chǎng)景提供通信專家級(jí)的見(jiàn)解和幫助。星云研發(fā)大模型通過(guò)多模型協(xié)作技術(shù),可以支持需求、設(shè)計(jì)、編程、測(cè)試等不同階段全流程30多種場(chǎng)景,多種編程語(yǔ)言如Python、Java、C/C++、Go、Java script代碼生成能力可以達(dá)到GPT4水平,并且在單元測(cè)試準(zhǔn)確率、覆蓋率大幅超越GPT4-Turbo,可以根據(jù)需求直接生成測(cè)試用例(測(cè)試驅(qū)動(dòng)開(kāi)發(fā))。
在應(yīng)用方面,中興通訊積極探索大模型在行業(yè)中的實(shí)際應(yīng)用,先后在研發(fā)提效、通信網(wǎng)絡(luò)運(yùn)維、城市治理、工業(yè)園區(qū)等多個(gè)方向推出大模型應(yīng)用。其中,星云編程大模型在HumanEval的評(píng)分位列業(yè)界編碼模型第一梯隊(duì),目前日活用戶已超過(guò)1.3萬(wàn),日請(qǐng)求數(shù)達(dá)到11萬(wàn)+,日吞吐量達(dá)3.3億 tokens,編碼提效30%,整體研發(fā)提效10%。同時(shí)基于端到端智算平臺(tái)為客戶提供全流程大模型工具鏈,降低客戶進(jìn)入門(mén)檻和開(kāi)發(fā)、使用成本,助力大模型在行業(yè)的普惠應(yīng)用。
中興通訊始終秉持多樣互補(bǔ)、開(kāi)放利他的原則,堅(jiān)定不移的支持并推動(dòng)產(chǎn)業(yè)繁榮發(fā)展;同時(shí)強(qiáng)化內(nèi)外雙循環(huán),持續(xù)引領(lǐng)創(chuàng)新發(fā)展。未來(lái),中興通訊將持續(xù)加大投入,致力于在多個(gè)領(lǐng)域?qū)崿F(xiàn)技術(shù)引領(lǐng),進(jìn)一步推動(dòng)智算產(chǎn)業(yè)的壯大與發(fā)展,為經(jīng)濟(jì)的繁榮貢獻(xiàn)力量。