AIGC 推動光模組新需求

 輝達 DGX SuperPOD™是一個 AI 數據中心基礎平台, 為 AI 設計的一站式 AI 數據中心解決方案. DGX SuperPOD 的基本構件是 SU, 由 20 個 A100 系統組成, 在優化了性能和成本的同時仍然最大限度地減少了系統瓶頸與功能能耗, 為複雜的工作內容以及較高的工作負載提供了結構上的支持.

InfiniBand 交換機在 Fat-Tree 拓撲中分為: 葉交換器, 脊交換器, 核心交換器. 隨著光模組應用的普遍, 原本常見的 "半光模塊化" 胖樹拓撲結構逐漸變成了 "全光模塊化", 即用光纖及二倍數量的光模組來替代原本拓撲結構第一層中使用的銅線, 而第二層和第三層依舊使用不同速率的光模組. 

輝達推薦使用 7 個單元進行組網, 需要三層架構, 並增加核心交換器. 140 台伺服器, 共對應 140*8=1120 片 A100, 共需要 56+56+28=140 個交換器 (QM8790), 1120+1120+1120=3360根線纜, 3360*2=6720 個 200G 光模組, A100 與 200G 光模組對應關系為 1120/6720=1:6.

假設 2023 年出貨 30 萬片 H100+90 萬片 A100, 2024 年出貨 150 萬片 H100+150 萬片 A100, 將帶來以下的. 以 2023 年 1 美元/GB 均價, 2024 年 0.85 美元/GB 均價簡單計算, AI 預計為光模組帶來 13.8/49.7 億美金的 AI 增量市場空間.

2021 全球十大光模組廠商中國已經占據六席. 中國龍頭廠商的規模優勢明顯, 隨著技術的發展, 研發與擴產門檻不斷提高, 行業壁壘將愈發顯著. 目前中國龍頭廠商覆蓋谷歌, 輝達, AWS, Meta 等海外頭部 AI 與雲計算龍頭, 有望充分享受 AIGC 潮流帶來的行業利好.

 隨著 GPU 的升級會直接帶來帶寬需求的增長, 從驅動高速光模組的需求. 在 AI 計算中, 當 GPU 計算能力提升 2.5~3.2 倍時, 其融合總帶寬需求提升了約 1.5 倍. 而光模組作為網絡設備中必要的光電轉換元件, AI 高性能計算帶來的帶寬需求提升將推動光模組的高速化/高端化進程.

預計今年全年全球 的 800G 需求將達到 80~90 萬只, 主要針對在 AI/HPC 應用的相關需求, 同時明年需求將有望達到 250~300 萬只. 我們認為 AI 的快速發展正在要求算力性能不斷提高, 有望推動 800G 高速光模組方案需求快速增長.

在網絡設備中, 光模組功耗對傳輸速率的增長最為顯著. 根據思科的數據, 過去的12 年時間, 數據中心的網絡交換帶寬提升了 80 倍, 背後的代價就是: 交換晶片功耗提升約 8 倍, 光模組功耗提升 26 倍, 交換晶片 SerDes 功耗提升 25 倍.

光電共封裝技術 (CPO) 可以顯著解決功耗問題. CPO 技術借助矽光集成的工藝將光引擎, 電晶片和交換機晶片封裝在同一個基板上面, 通過 TSV 的小孔來縮短封裝電信號連接距離, 同時降低 SerDes 功耗, 單位能耗有望從熱插拔的 24pJ/bit, 降低到 7pJ/bit, 進而大幅降低電信號傳輸功耗.

雖然目前 CPO 方案還存在一些如良率過低, 維護成本高等問題, 可插拔設備將在未來 5 年甚至更長時間內繼續主導市場. 但是我們看好其未來的發展潛力, 根據 LightCounting 對 CPO 端口, 可插拔以太網光模組和 AOC 出貨量的預測, 未來 CPO方案在高速率端口將有望迎來快速發展.