用戶名: 密碼: 驗證碼:

清華“太極-Ⅱ”光芯片面世:成果登 Nature,首創(chuàng)全前向智能光計算訓練架構

摘要:清華大學電子工程系方璐教授課題組、自動化系戴瓊海院士課題組另辟蹊徑,首創(chuàng)了全前向智能光計算訓練架構,研制了“太極-II”光訓練芯片,實現了光計算系統大規(guī)模神經網絡的高效精準訓練。

  ICC訊  8 月 8 日消息,據清華大學官方消息,清華大學電子工程系方璐教授課題組、自動化系戴瓊海院士課題組另辟蹊徑,首創(chuàng)了全前向智能光計算訓練架構,研制了“太極-II”光訓練芯片,實現了光計算系統大規(guī)模神經網絡的高效精準訓練。

  該研究成果以“光神經網絡全前向訓練”為題,于北京時間 8 月 7 日晚在線發(fā)表于《自然》期刊。

  清華大學電子系為論文第一單位,方璐教授、戴瓊海教授為論文的通訊作者,清華大學電子系博士生薛智威、博士后周天貺為共同一作,電子系博士生徐智昊、之江實驗室虞紹良博士參與了該項工作。該課題受到國家科技部、國家自然科學基金委、北京信息科學與技術國家研究中心、清華大學-之江實驗室聯合研究中心的支持。

  Nature 審稿人在審稿評述中指出“本文中提出的想法非常新穎,此類光學神經網絡(ONN)的訓練過程是前所未有的。所提出的方法不僅有效,而且容易實現。因此,它有望成為訓練光學神經網絡和其他光學計算系統的廣泛采用的工具?!?

  據清華大學官方介紹,近年間,具有高算力低功耗特性的智能光計算逐步登上了算力發(fā)展的舞臺。通用智能光計算芯片“太極”首次將光計算從原理驗證推向了大規(guī)模實驗應用,擁有 160TOPS / W 的系統級能效,但現有的光神經網絡訓練嚴重依賴 GPU 進行離線建模并且要求物理系統精準對齊。

  據論文第一作者、電子系博士生薛智威介紹,在太極-II 架構下,梯度下降中的反向傳播化為了光學系統的前向傳播,光學神經網絡的訓練利用數據-誤差兩次前向傳播即可實現。兩次前向傳播具備天然的對齊特性,保障了物理梯度的精確計算。由于不需要進行反向傳播,太極-II 架構不再依賴電計算進行離線的建模與訓練,大規(guī)模神經網絡的精準高效光訓練終于得以實現。

  論文研究表明,太極-II 能夠對多種不同光學系統進行訓練,并在各種任務下均表現出了卓越的性能:

  大規(guī)模學習領域:突破了計算精度與效率的矛盾,將數百萬參數的光網絡訓練速度提升了 1 個數量級,代表性智能分類任務的準確率提升 40%。

  復雜場景智能成像:弱光環(huán)境下(每像素光強度僅為亞光子)實現了能量效率為 5.40×10^6 TOPS / W 的全光處理,系統級能效提升 6 個數量級。在非視域場景下實現了千赫茲幀率的智能成像,效率提升 2 個數量級。

  拓撲光子學領域:在不依賴任何模型先驗下可自動搜索非厄米奇異點,為高效精準解析復雜拓撲系統提供了新思路。

論文鏈接:https://www.nature.com/articles/s41586-024-07687-4

1、凡本網注明“來源:訊石光通訊網”及標有原創(chuàng)的所有作品,版權均屬于訊石光通訊網。未經允許禁止轉載、摘編及鏡像,違者必究。對于經過授權可以轉載我方內容的單位,也必須保持轉載文章、圖像、音視頻的完整性,并完整標注作者信息和本站來源。
2、免責聲明,凡本網注明“來源:XXX(非訊石光通訊網)”的作品,均為轉載自其它媒體,轉載目的在于傳遞更多信息,并不代表本網贊同其觀點和對其真實性負責。因可能存在第三方轉載無法確定原網地址,若作品內容、版權爭議和其它問題,請聯系本網,將第一時間刪除。
聯系方式:訊石光通訊網新聞中心 電話:0755-82960080-168   Right