關注 AIGC 看高速傳輸應用

 2023 年 ChatGPT 相關應用有望再度刺激 AIGC 相關領域, 預計 2023 年 AI Server 出貨量增長率可達 8%. 為提升 AI 伺服器性能需搭載多個 CPU 和 GPU 處理器, 要求傳輸技術同步升級. CXL, Infinity Fabric, NVLink 等高速傳輸技術將加速滲透, 有望充分受益於 AI 帶來的算力需求增長.

在大數據與萬物互聯的智能時代, 以高速串行接口 (wireline SerDes) 為核心的高速互連技術是數據傳輸所不可或缺的部分. 針對 AI 服務器中 PCIe 帶寬限制對於 GPU 間通信帶來的阻礙, 以 Nvidia NVLink 為代表的高速傳輸晶片應運而生.

CXL 全稱為 Compute Express Link, 是由 Intel 於 2019 年 3 月在 Interconnect Day 上推出的一種開放性互聯協議, 能夠讓 CPU 與 GPU, FPGA 或其他加速器之間實現高速高效的互聯, 從而滿足高性能異構計算的要求.  CXL 構建於 PCIe 邏輯和物理層級之上, 所以其兼容性很高.

輝達 NVLink 可最大化提升系統吞吐量. AIGC 趨勢的推動下, 對於能夠在每個 GPU 之間實現無縫高速通信的多節點, 多 GPU 系統的需求也在與日俱增. 要打造功能強大且能夠滿足業務速度需求的端到端計算平台, 可擴展的快速互連必不可少.

DGX H100 是輝達的 DGX 系統的最新產品, 也是 Nvidia DGX SuperPOD 的基礎. DXG 伺服器配備 8 塊 H100 GPU, 6400 億個晶體管, 在全新的 FP8 (8位元浮點, AI 交換格式標準) 精度下 AI 性能比上一代高 6 倍, 可提供 900GB/s 的帶寬.

PCIe Switch 主要作用是實現 PCIe 設備互聯, Switch 晶片與其設備的通信協議都是 PCIe. 由於 PCIe 的鏈路通信是一種端對端的數據傳輸, 因此需要 Switch 提供擴展或聚合能力, 從而允許更多的設備連接到一個 PCle 端口, 解決 PCIe 通道數量不夠的問題.

由於 PCIe 傳輸速率不斷攀升, 工作頻率越來越高, 不可避免的帶來了信號衰減問題. 解決信號衰減的方案主要包括信號中繼器/調節器 (Redriver), 重定時器 (Retimer) 等. 與 Redriver 相比, Retimer 恢復信號的效果更好.  PCIe Retimer 藍海市場三足鼎立.

2018 年 Nvidai 發布了第一代 NVSwitch, 為提高伺服器內部帶寬, 降低延遲, 實現多 GPU 間通信提供了解決方案. 第一代 NVSwitch 採用台積電 12nm FinFET 工藝制造, 第三代 NVSwitch 採用 TSMC 4N 工藝構建, 每個 NVSwitch 晶片上擁有 64 個 NVLink 4.0 端口.