20260205-东兴证券-超节点与Scale_up网络专题之英伟达_行业标杆_领先优势建立在NVLink和NVLink_Switch_27页_2mb

报告摘要

超节点与 Scale up 网络专题之英伟达：行业标杆，领先优势建立在 NVLink 和 NVLink Switch

核心内容

随着大语言模型（LLM）参数规模的持续扩大，从千亿级向万亿级乃至十万亿级演进，跨服务器张量并行（TP）和专家并行（EP）成为分布式训练和推理的关键技术需求。为满足这些需求，构建超高带宽、超低延迟的Scale up网络成为AI算力网络的重要发展方向。英伟达在该领域处于领先地位，其超节点方案基于NVLink和NVLink Switch技术，实现高效互联和通信性能。

主要观点

LLM训练推动Scale up网络发展
- TP和EP对网络带宽与延迟提出更高要求。
- Scale up网络具有高带宽、低延迟、统一内存空间等优势，是当前AI算力网络的主流技术路径。
英伟达超节点技术演进
- GH200 NVL72：Hopper架构首次实现GPU与CPU内存统一编址，引入NVLink和NVLink-C2C技术。
- GB200/GB300 NVL72：Blackwell架构推动Scale up网络标准化，稳定在72个GPU/机柜，采用18个Compute Tray和9个Switch Tray，实现129.6TB/s总交换容量。
- VR200 NVL72：Rubin架构实现带宽倍增，NVLink 6 Switch支持3.6TB/s单GPU互连带宽，总交换容量翻倍至259.2TB/s。引入无缆设计和中板替代传统铜缆方案，进一步提升工程效率。
- 未来规划：2026-2027年推出Vera Rubin NVL144和Rubin Ultra NVL576，互联GPU数将从72颗发展至576颗。引入NVLink Switch Blade，通过PCB中板实现更高效的互连。
NVLink与NVLink Switch技术优势
- NVLink重新设计通信架构，采用网状拓扑、差分信号传输、流量调度信用机制、多Lane绑定技术等，支持高带宽和低延迟。
- NVLink5 Switch实现72颗GPU的全互联，总带宽达130TB/s（双向）。
- NVSwitch Gen6和Gen7将GPU-to-GPU通信带宽提升至3.6TB/s。
超节点发展趋势与竞争格局
- Scale up网络发展可能受到TP和EP规模降低的影响，但目前仍是AI算力网络的主流。
- 全球超节点竞争格局尚未确立，英伟达处于领先地位，但中国厂商也在积极布局，可能在未来形成竞争态势。
- 建议关注英伟达超节点供应链及国内相关厂商，如PCB背板、高速铜缆、光模块、供电与液冷系统、交换机及芯片研发商。

关键信息

2024-2026年：英伟达推出GH200 NVL72、GB200/GB300 NVL72、VR200 NVL72三代超节点。
2025年：预计英伟达GB200/300 NVL72出货量约为2800台。
2026-2027年：计划推出Vera Rubin NVL144和Rubin Ultra NVL576，实现576颗GPU互联。
NVLink技术规格：
- NVLink5：单GPU带宽1800GB/s，总带宽130TB/s（双向）。
- NVLink6：单GPU带宽3.6TB/s，总带宽259.2TB/s。
- NVLink7/8：未来计划提升至7.2TB/s、14.4TB/s。
Scale up与Scale out对比：
- Scale up：数十卡至千卡级，统一内存空间，低延迟，高带宽。
- Scale out：万卡至十万卡级，独立内存空间，微秒级延迟，基于开放网络标准。