GB300 改 GPU socket 的相關商機

Socket 可以簡單理解為將晶片固定, 連接到主機板的一個連接裝置, 另外一種連接裝置是 Slot (插槽). 現代幾乎所有主流 CPU 都是透過 Socket 與主機板連接, Socket 一詞一般預設就是 CPU 的插座. 下圖就是一個典型的 CPU Socket (CPU並未安裝上去), Socket 的底座有密集的 pin 針 (或觸點), 上方是固定裝置. 在 CPU 晶片的背面也會有同樣密集的接腳用於與 Socket 連接.

消費級 GPU 一般採用普通 PCIe 插槽與主機板連接, 過去的 AI GPU 也是如此, 但是後來輝達推出了一種新的連結方案 SXM (Server PCI Express Module), 效能強於 PCIe. 這種連接方式主要用於輝達自家的 HGX/DGX 整機. 主機板上專門留有給 SXM 模組的連接裝置, 使得 GPU 與主機板的貼合更加緊密穩固, 但是這種連結依然是基於板卡, 而不是晶片.

目前的 GB200 晶片是由台積電在生產出晶片後採用 SMT 封裝製程直接將晶片焊在 Bianca 板上, 晶片不能直接從板上拆下來, 也沒有引腳. 看看輝達發布的 GB200 的圖片, 兩塊 GPU 晶片和一塊 CPU 晶片都是被焊在同一塊板子上, 這才共同組成了 GB200 超級晶片, 無法單獨拆下其中一塊 GPU 或 CPU 晶片. 這種方式的好處是連接, 供電性能更好.

缺點則包括需要 SMT 製程, 無法拆卸, 不利於維修, 主機板設計複雜等. 而如果轉為採用 Socket 連接, 可能會損失一小部分顯示卡性能, 但使得顯示卡可以靈活拆卸, 主機板可以重複使用, 而且更多硬體廠商可以設計, 生產自己的主機板, 而不是依賴目前輝達指定的幾家主機板生產商 (緯創/富士康). 對於 GB300, 輝達只會提供一個 "SXM Puck", 其他部分可以讓硬體廠商自行組裝.

鴻騰是 GB200 Grace CPU 插槽的主供, GB300 的 Blackwell GPU 插槽同樣由鴻騰率先研發, 未來鴻騰主供不會變, 嘉澤最多也就是二供. 對比輝達, AMD, Intel 的營收, 尤其是資料中心方面的營收, 輝達是另外兩家之和的 2.5倍, 顯然這塊業務空間還是不小的. 參考嘉澤 Socket 佔 CPU 價值約為 2-4%, 毛利率 51%, 淨利率35%. 推估鴻騰每年淨利將增加 1億美元.

在 GB300 中, Computetray 將回歸 HGX 時代 UBB + OAM 設計. Grace CPU 直接 SMT 貼裝在高多層貫通板 UBB 上, B300 GPU 透過 Socket 接到 OAM 上, 再透過銅線走線連接 UBB. GPU OAM 方面, 2 CPU + 4 GPU 運算托盤方案中 OAM 將使用高多層貫通板, 1 CPU + 4 GPU 計算托盤方案中 OAM 將使用 HDI.

而在 M8 等級以上的 CCL (銅箔基板) 通常需要使用高頻超低輪廓銅箔 (HVLP5 銅箔). GB300 中的 PTFE 路線 PCB 更是需要 HVLP 銅箔支持, 特別是性能更強的第 5 代 HVLP5. HVLP 5 銅箔是一種表面粗糙度在 0.6 微米以下的高端銅箔, 具有硬度高, 粗化面平滑, 熱穩定性好, 厚度均勻等優勢, 可最大限度地減少電子產品中的訊號損失.

GPU 和 CPU 合封, 散熱要求更大, 晶片內部散熱門檻要求更高. 採用 Socket 方式對 PCB 的難度很大. 因為除了 Socket 還有其他的高速, 高密度鑽孔等要求. 高端 PCB 本來供不應求, 未來供給缺口可能會進一步加劇. 隨著台灣聯能 (欣興) 等供應商大幅退出 GB200 伺服器兩塊核心板的供應, 中國勝宏科技憑藉 HDI 技術路線在這代 PCB 中拿到較大份額.

從 PCB 用量面積來看, GB300 相比 GB200 新增了與 SXM Puck 相關的 PCB 等面積. 從 PCB 價值量來看, GB300 NVL72 相較 GB200 NVL72 PCB價值量可望提升, 單 GPU PCB 價值量成長. 根據我們計算, HGXH/B系列單 GPU 的 PCB 價值量為 175~204美金, GB200 NVL72 單 GPU 的 PCB 價值量為 317~376美金, GB300 NVL72 單 GPU 的 PCB 價值量為 382~501美金.

相比 HGX 系列, GB300 NVL72 中單 GPU 的 PCB 價值量增加 88%~186%; 相較於 GB200 NVL72, 在 Switch 板方案相同前提下, GB300 NVL72 中單 GPU 的 PCB 價值量增加 17%~39%. 我們判斷, 隨著 AI 伺服器對於傳輸速率, 整合性和散熱性能等需求的提升, PCB 整體規格及 HDI滲透率可望持續提升, 進一步縮小 PCB 上佈線空間和元件間距, 提升高頻高速及抗損耗性能.