智算時代，算力中心服務商價值何在？

  ICC訊 “所有智算中心的運營者都應該自問一句：我們的價值何在?”

  在數(shù)字化浪潮的推動下，智算中心作為新興的計算力基礎設施，已成為產業(yè)發(fā)展的新熱點。因此，作為算力基礎設施的“同行”，原IDC服務商們也“順手”做起了智算中心的運營。

  但是，智算中心不僅僅是通用數(shù)據(jù)中心的升級版，它們通過高性能計算、大數(shù)據(jù)處理、以及人工智能等技術，為各行各業(yè)提供強大的數(shù)據(jù)分析和處理能力，“風火水電”已經無法概括一個智算中心運營商的核心價值。

  在12月12日舉辦的第十八屆中國IDC產業(yè)年度大典(IDCC2023)上，始智AI聯(lián)合創(chuàng)始人、CTO黃新平詳細分析了算力的演進和智算中心建設當前的挑戰(zhàn)和機遇，并且提出了“算力中心服務商價值何在?”這一振聾發(fā)聵的問題。

始智AI聯(lián)合創(chuàng)始人、CTO黃新平

  算力的演變

  智算中心的核心在于算力。從高性能計算到云計算，再到現(xiàn)在的智算中心，算力的含義和計算方式都在不斷演變。當前，智算中心面臨的挑戰(zhàn)包括算力芯片的供應限制、大模型應用場景的不清晰、以及服務資源配置的不確定性。

  智算中心運營商的價值在于其能夠提供穩(wěn)定、高效的算力服務。他們不僅需要關注硬件的投入和維護，更要在軟件能力、運營管理、以及服務保障上下功夫，以滿足不同客戶的需求。

  “現(xiàn)在很多智算中心，通常只是購買了GPU出租算力?！秉S新平表示，只是通過租售硬件算力，這是一種非常粗放的商業(yè)模式，會受到硬件價格、用戶變動等市場因素影響，抵抗市場波動能力較弱。

  服務市場的挑戰(zhàn)

  “從長遠角度看，很可能95%的需求都來自服務需求。”黃新平認為，未來，智算中心的主要需求將來自于服務市場。一般來說，智算中心可以為用戶提供的服務包括以下幾種：

  基礎設施服務：這一服務模式與傳統(tǒng)的數(shù)據(jù)中心托管類似，不過需要更多的關注供電、散熱以及網絡鏈接等。

  數(shù)據(jù)及應用服務：包括訓練服務、推理服務，以及數(shù)據(jù)的采集、清洗、標注、轉換、存儲等數(shù)據(jù)處理服務。

  調度服務：為大模型等智算服務的運行提供彈性的計算、存儲、網絡等資源，以及服務的編排、保障、監(jiān)控等功能。

  黃新平分析，隨著所謂“百模大戰(zhàn)”的發(fā)展和落幕，智算產業(yè)將很快迎來變化沖擊，服務將取代單純的算力租賃成為業(yè)務主流。

  “大模型是‘活’的，隨著數(shù)據(jù)增長和業(yè)務變化，大模型要不斷進行訓練，”黃新平提出，大模型的“微調”是一個長期需求，并且會在未來成為主要需求，更多的工作將集中在數(shù)據(jù)處理上。

  因此，在未來，數(shù)據(jù)處理能力和推理服務講是智算中心的兩大核心功能。數(shù)據(jù)處理關乎模型訓練的質量和速度，而推理服務則直接影響到業(yè)務邏輯的實時響應和執(zhí)行效率。

  但是，對于當前的算力中心服務商來說，無論是數(shù)據(jù)的清洗、標注、轉換，還是彈性擴展、多租戶資源隔離、調度等，都是新領域，需要更多的團隊、技術及資金投入。

  “整個服務體系，底層是計算和異構的支持，網絡/RDMA，計算、存儲、網絡，再往上面是局部的算力調度，加上算力服務，加上服務的編排?！秉S新平歷數(shù)智算中心服務商將面對的服務挑戰(zhàn)：“這些服務能力建設周期長、成本高，如何回收成本乃至盈利是個大問題?！?

  對于正在發(fā)展中的智算產業(yè)，或許沒有人可以對這些問題給出明確回答。但無論如何，我們應該認識到，智算中心服務商的價值不僅在于提供空間、電力乃至算力，更在于如何將這股力量轉化為推動產業(yè)發(fā)展的動力。只有通過不斷探索和創(chuàng)新，適應快速變化的技術和市場需求，才能在數(shù)字經濟時代中占據(jù)一席之地。