IBM引入“光的力量”至芯片 使速度提升80倍

  ICC訊  周一，IBM宣布在光學技術上取得了突破性的進展，該技術有望大幅改進數據中心訓練和運行生成式人工智能（AI）模型的方式。其新型共封裝光學技術（Co-packaged optics）基本實現了將光學技術的力量帶入芯片內部，使得數據中心內的連接可以達到光速。

圖片來源：IBM官網

  在一次媒體簡報會上，IBM半導體總經理Mukesh Khare對記者說，電信行業(yè)在制造更快的芯片方面已經取得了顯著進步，但是這些芯片之間的通信速度并沒有跟上這個步伐。計算能力的增長速度與芯片間通信速度的增長速度之間存在幾個數量級的差距。

  他指出：“實際上，從更基礎的層面上講，芯片依然通過電進行通信，它們使用銅線。而我們都知道，最優(yōu)秀的通信技術是光纖，這就是為什么在長距離通信中到處都在使用光纖?！?

  盡管共封裝光學技術已經存在一段時間，但IBM開發(fā)了一種新型的聚合物光波導（PWG）技術，為共封裝光學帶來了革新。PWG技術使得芯片制造商能夠在硅光子芯片的邊緣區(qū)域——這一被稱為“黃金地段”的寶貴空間——布置比以往多六倍的光纖。每根光纖的寬度大約是人類頭發(fā)的三倍，長度可以從幾厘米延伸到數百米，并且能夠以每秒太比特的速度傳輸數據。

  這一切意味著什么呢？

  該公司表示，這項技術將使得芯片間的通信帶寬比現在使用電子技術時快80倍，并將能耗降低五倍以上。

  此外，它還可以使大型語言模型（LLM）的訓練速度提高多達五倍，將訓練標準LLM所需的時間從三個月縮短到三周，而且隨著更大模型和更多GPU的使用，性能增益還會增加。

  除了讓GPU和加速器之間更快地相互通信之外，這種技術還可能重新定義計算行業(yè)通過電路板和服務器傳輸高帶寬數據的方式。

  Khare表示：“我們非常興奮能夠引入光的力量，從根本上加速了人工智能世界和許多其他應用的發(fā)展?！?

  當被問及這項技術何時會商業(yè)化時，Khare表示IBM的研究部門“已經準備好投入使用”。

  官方原文：https://uk.newsroom.ibm.com/IBM-Brings-the-Speed-of-Light-to-the-Generative-AI-Era-with-Optics-Breakthrough