中國光學晶片網路突破：運算速度提升百倍、僅需九分之一算力

中國光學晶片網路突破：運算速度提升百倍、僅需九分之一算力

北京大學研究團隊開發出一套全光學互連系統，在大幅加速分散式AI推論效能的同時，所需運算資源僅為傳統GPU系統的一小部分。該原型機在僅使用商用GPU約九分之一算力的條件下，推論速度提升逾百倍。

這套系統透過晶片上的全光學網路將多顆運算晶片相互連接，取代傳統電氣線路。此設計旨在降低延遲、改善晶片間的資料傳輸效率，解決AI工作負載持續擴大時日益顯著的瓶頸問題。

系統核心為一顆 400 Gbps 矽光子收發器，負責將電子訊號轉換為光學訊號並進行反向轉換。它與一顆客製化的 16×16 光學交換晶片協同運作，負責在各運算節點間路由資料，建構出總交換頻寬高達 6.4 Tbps 的可擴展通訊網路。

研究人員表示，此設計將重心從單純增加運算硬體，轉移至改善晶片間的通訊方式，使多顆處理器在AI推論過程中能更有效率地協同運作。

以光取代瓶頸

此光學交換器的一大關鍵特性，在於其總損耗（含耦合損耗）低於 5 dB。研究團隊表示，這使系統得以實現高速、無誤差傳輸，無需外部光學增益補償。該交換器亦能在多條通訊路徑上維持無誤差效能，並支援超過 100 nm 的頻譜響應範圍，適合未來透過波長分割多工（WDM）技術進一步擴展頻寬。

為驗證此架構，研究人員部署了一個五層卷積神經網路（CNN）執行影像降噪任務。每一層被分配至獨立的運算單元，光學交換器則將各處理器串連成一條流水線（pipeline）。

系統不再重複將中間資料儲存至記憶體後才傳送至下一處理器，而是直接透過光學網路傳輸特徵圖（feature map）。此舉有效減少了記憶體傳輸的延遲，並讓各運算單元保持持續運作。

與執行相同影像降噪任務的商用GPU相比，此光學系統的推論速度快逾百倍，且所需運算資源僅為GPU的約九分之一。

以不同方式擴展AI能力

研究人員認為，這項研究揭示了一條在模型持續成長之際提升AI效能的不同路徑。

「當演算法、處理器微架構與晶片級互連進行協同設計時，便能在有限運算資源下實現特定目標，」論文作者寫道。

「此架構亦能緩解資料中心不可持續的能源消耗問題，並針對邊緣運算場景優化延遲或功耗，」他們補充說明。

研究團隊表示，共封裝光學（co-packaged optics）、矽光子收發器及更快速AI晶片介面等領域的進展，有望將晶片上光學超節點（optical supernode）轉化為未來分散式運算系統的實用基礎。此類系統能提供高頻寬、低延遲與高能源效率，以支援下一代AI工作負載，而無需單純仰賴規模越來越大、耗電量持續攀升的處理器叢集。

本研究成果已發表於《國家科學評論》（National Science Review）期刊。

原文來源： 查看原文