在當前“東數(shù)西算”時代背景下,隨著云計算、大數(shù)據(jù)、人工智能等信息技術(shù)的快速發(fā)展,數(shù)據(jù)呈現(xiàn)幾何級增長,作為“動力源”的數(shù)據(jù)中心,其計算、存儲和網(wǎng)絡(luò)資源的性能不斷提升,密度也在不斷變大,隨之而來的是單位空間內(nèi)功耗的增加;而在節(jié)能減排需求的驅(qū)動下,通信領(lǐng)域?qū)?A href="http://3xchallenge.com/site/CN/Search.aspx?page=1&keywords=%e6%95%b0%e6%8d%ae%e4%b8%ad%e5%bf%83&column_id=ALL&station=%E5%85%A8%E9%83%A8" target="_blank">數(shù)據(jù)中心節(jié)能降耗的要求越來越嚴格。
算力的增長帶來硬件能耗的攀升,在保證算力運轉(zhuǎn)的前提下,只有通過降低數(shù)據(jù)中心輔助能源的消耗,才能達成節(jié)能目標下的PUE(Power Usage Effectiveness)要求。典型數(shù)據(jù)中心制冷系統(tǒng)能耗占比達到24%以上,是數(shù)據(jù)中心輔助能源中占比最高的部分,因此,降低制冷系統(tǒng)能耗能夠極大促進PUE的降低。
液冷技術(shù)是中興通訊打造極致PUE、助力綠色數(shù)據(jù)中心的關(guān)鍵路徑之一。中興通訊已推出全液冷系統(tǒng)解決方案,由室外冷源、液冷服務(wù)器機柜、CDU(Coolant Distribution Unit)、EDU(External cooling system Distribution Unit)四部分組成(見圖1)。
圖1 液冷系統(tǒng)架構(gòu)
整個系統(tǒng)包含兩個熱量傳遞路徑:其一,液冷服務(wù)器內(nèi)主要發(fā)熱元件產(chǎn)生的熱量經(jīng)液冷板傳遞給二次側(cè)工質(zhì),二次側(cè)工質(zhì)在二次側(cè)水泵的驅(qū)動下進入板式換熱器,換熱器內(nèi)二次側(cè)工質(zhì)將熱量傳遞給一次側(cè)工質(zhì),一次側(cè)工質(zhì)在一次側(cè)水泵的驅(qū)動下進入閉式冷卻塔,在冷卻塔內(nèi)一次側(cè)工質(zhì)與室外空氣進行換熱,完成散熱循環(huán);其二,室內(nèi)空氣在風機的驅(qū)動下帶走液冷服務(wù)器內(nèi)次要發(fā)熱元件產(chǎn)生的熱量,之后空氣經(jīng)過液冷背門將熱量傳遞給一次側(cè)工質(zhì),一次側(cè)工質(zhì)在一次側(cè)水泵的驅(qū)動下進入閉式冷卻塔,在冷卻塔內(nèi)一次側(cè)工質(zhì)與室外空氣進行換熱,完成散熱循環(huán)。
中興通訊自研高性能液冷服務(wù)器采用雙路Intel XEON高性能CPU、32根內(nèi)存條,可應(yīng)用于大規(guī)模數(shù)據(jù)計算與存儲場景,關(guān)鍵部件包含:液冷工質(zhì)、液冷板、流體連接器、液冷管路以及漏液檢測裝置等。
液冷工質(zhì)
二次側(cè)液冷工質(zhì)是IT液冷方案設(shè)計中首先需要確定的部分,直接影響液冷系統(tǒng)的設(shè)計方案、工作環(huán)境、可靠性、維護方式等。選型過程中需要考慮工質(zhì)熱物性(密度、粘度、比容、導熱系數(shù)等)、兼容性(金屬、非金屬)、成本和可獲取性等多種因素的綜合影響。中興通訊液冷服務(wù)器選用了水基溶液,如去離子水、乙二醇水溶液、丙二醇水溶液等,并配合具有一定緩蝕、殺菌、阻垢功能的化學藥劑使用,在保證可靠性的同時,兼具高性價比。
液冷板
服務(wù)器液冷板設(shè)計需滿足定制化和通用性,首先液冷板設(shè)計需要根據(jù)單板芯片和芯片布局進行芯片冷板和管路布局設(shè)計,具有一定的定制化特性,其次在定制化結(jié)構(gòu)設(shè)計中應(yīng)盡量保證內(nèi)部零件的通用性,如芯片冷板內(nèi)部流道、外形尺寸,以及液冷板進出口組件結(jié)構(gòu)盡可能一致,以降低成本。液冷板的選型還需要結(jié)合實際功耗、工作壓力、流速等條件,綜合考慮冷板材質(zhì)、工藝等。
同時,為了提升節(jié)能效果,IT設(shè)備應(yīng)盡可能提高冷板板式液冷占比。中興通訊自研液冷服務(wù)器支持不同的液冷解決方案,如CPU液冷、CPU+內(nèi)存條液冷,以及CPU+內(nèi)存條散熱+VR液冷,冷板液冷占比最高可達80%以上,滿足不同的制冷需求。
流體連接器
流體連接器主要用于液冷散熱系統(tǒng)環(huán)路中各部件間的快速連接和斷開。選型要點包括工作流量、溫度、壓力、介質(zhì)、殼體材料、流阻特性、顏色標識、安裝方式、接口形式等多方面因素?,F(xiàn)階段,中興通訊自研液冷服務(wù)器產(chǎn)品選擇了業(yè)界主流的UQD(Universal Quick Disconnect)系列流體連接器,促進行業(yè)標準化進程,滿足最終用戶兼容替代需求。
分液器
分液器安裝在IT設(shè)備液冷機柜內(nèi),起到流量分配作用,將系統(tǒng)的循環(huán)工質(zhì)分配到各個IT設(shè)備節(jié)點,在液冷板內(nèi)換熱后將熱量帶出到主水管路。其設(shè)計選型需要考慮流量分配一致性,并根據(jù)結(jié)構(gòu)空間、充注量和機柜總重量綜合考慮分液器的體積。
液冷軟管
液冷管路是循環(huán)工質(zhì)流通通路,參與整個液冷系統(tǒng)的流量-流阻分配,同時為外接液冷設(shè)備提供簡便的轉(zhuǎn)接接口。液冷管路選型需要考慮材料兼容性、流速、管路布置、安裝方式、流量分配設(shè)計以及可靠性方面的要求。
漏液檢測裝置
漏液檢測采用節(jié)點級和整柜級智能監(jiān)控漏液檢測技術(shù),及時告警,快速處理。主板提供了液冷方案漏液偵測接口,可快速識別泄漏情況,提供漏液檢測秒級精細化告警,并支持應(yīng)急下電動作。
液冷技術(shù)實現(xiàn)全年自然冷卻,除制冷系統(tǒng)自身的能耗降低外,采用液冷散熱技術(shù)有利于進一步降低芯片溫度,帶來更高的可靠性和更低的能耗,整機能耗預(yù)計可降低約5%。液冷數(shù)據(jù)中心PUE可降至1.2以下,每年可節(jié)省大量電費,在確?!皷|數(shù)西算”數(shù)據(jù)運輸“大動脈”的暢通和高效前提下,更加綠色節(jié)能。
作者:中興通訊 范皓龍