ICC 近日,在2024 MWC 上海展,中興通訊展示了AI模型在不同廠家GPU的快速無損遷移。基于AI Booster智算平臺提供的模型遷移工具套件,可實現(xiàn)模型從CUDA生態(tài)向類CUDA生態(tài)高效無感遷移,打造開放解耦、自主創(chuàng)新的智算生態(tài)。
目前市面上可供選擇的GPU廠家很多,但是不同GPU的軟件協(xié)議棧存在壁壘不能通用,導(dǎo)致模型遷移的復(fù)雜度高,工作量比較大,業(yè)務(wù)上線周期長。中興通訊提供一站式模型遷移工具,可以快速地進行模型和算子分析,并提供精度分析工具和性能分析工具,幫助開發(fā)者快速定位并解決問題,從而大幅縮短調(diào)試時間,確保模型在遷移后能夠保持良好的性能和穩(wěn)定性。
在本次展會上,中興通訊成功演示了開源文生圖模型應(yīng)用在不同廠家GPU運行的效果,遷移前后圖片生成的速度、清晰度和準(zhǔn)確度基本一致。中興通訊將繼續(xù)和業(yè)界主流GPU廠家進行廣泛深入的合作,全面適配業(yè)界主流的模型應(yīng)用,大幅降低模型遷移的時間和人力成本,加速AI業(yè)務(wù)創(chuàng)新,打造開放共贏的AI生態(tài)圈。