北大突破光學晶片互連系統：分散式AI推論速度激增百倍、耗能僅需九分之一

全光學互連突破分散式AI瓶頸

隨著大型語言模型與AI工作負載持續膨脹，資料中心面臨一個難以迴避的難題：處理器之間的通訊延遲與頻寬限制正逐漸成為計算效能的主要掣肘。北京大學研究團隊的最新成果提供了一條嶄新的解決路徑——透過全光學網路取代傳統電氣互連，徹底改變晶片間的通訊方式。

該項研究以矽光子技術為核心，開發出400 Gbps矽光子收發器與客製化16×16光學交換晶片。這套系統實現了總交換頻寬達6.4 Tbps的可擴展光學網路，能直接在多顆運算單元之間傳輸特徵圖與中間資料，繞過傳統架構中的記憶體存取瓶頸。

光學交換器的技術亮點

該光學交換晶片設計的關鍵優勢在於其極低的整體損耗——包含耦合損耗在內均控制在5 dB以下，足以實現無誤差、高速傳輸，無需額外的光學增益補償電路。同時，其超過100 nm的寬頻譜響應範圍為未來透過波長分割多工（WDM）技術進一步提升頻寬預留了擴展空間，使系統具備長期的技術升級潛力。

研究團隊在實驗驗證中部署了五層卷積神經網路（CNN），執行影像降噪任務。每一網路層被分配至獨立的運算單元，光學交換器則以流水線架構將各處理器串聯。關鍵創新之處在於，系統不再採傳統作法——將中間結果存入記憶體再傳送至下一處理器——而是直接透過光學網路傳輸特徵圖。此舉同時消除了記憶體存取延遲，並使各運算單元得以持續運作，毋需等待前級資料就緒。

實驗結果顯示，與商用GPU執行相同任務相比，該光學系統的推論速度快逾百倍，所需運算資源僅為GPU的約九分之一。這數據清晰地展示了架構最佳化相較於單純堆砌硬體運算能力的優勢。

能源危機與邊緣運算的新契機

北大研究團隊在論文中強調，此架構代表了一條截然不同的AI效能提升路徑。他們指出，當演算法、處理器微架構與晶片級互連能夠協同設計時，便能在有限的運算資源預算下達成特定目標。

更重要的是，該系統直指當今資料中心面臨的能源危機——大型AI模型訓練與推論所耗電量已成為環境與經濟的沉重負擔。透過改善晶片間通訊效率，而非盲目擴大處理器規模，該架構提供了一條更加永續的發展方向。此外，針對邊緣運算場景的優化也具有重要意義，因為許多邊緣部署應用對延遲與功耗有嚴格限制。

研究團隊表示，共封裝光學（co-packaged optics）、矽光子收發器與新興AI晶片介面等領域的進展，有望將晶片上光學超節點轉化為實用基礎設施。未來分散式運算系統將能以高頻寬、低延遲與高能源效率的特性支援下一代AI工作負載，而毋需單純依賴規模與耗電量不斷攀升的超大規模處理器叢集。

本研究成果已於《國家科學評論》（National Science Review）期刊正式發表。