中兴通讯超节点白皮书_40页_1mb
报告摘要
中兴通讯超节点白皮书总结
核心内容
中兴通讯发布的《超节点白皮书》系统阐述了AI算力架构从芯片堆砌向系统级协同演进的趋势,提出超节点作为下一代AI基础设施的核心形态,旨在实现算力密度、互联带宽与能效比的全面提升。通过全栈协同设计与创新技术路线,超节点能够支撑大规模模型训练与推理,构建具备高扩展性、高可靠性和低成本的AI工厂。
主要观点
- 算力架构演进:随着AI模型参数规模突破万亿量级,算力需求从单纯堆叠转向系统级协同,强调“带宽-算力-显存”的三角匹配。
- 超节点系统架构:超节点通过高速互联协议与专用交换芯片构建高带宽域,将物理独立的GPU整合为统一计算单元,实现类单机的编程与调度体验。
- 系统协同四大核心前提:
- 芯片能力均衡性:算力、显存与互联带宽需同步提升。
- 互联架构有效性:需具备通信效率、扩展性与场景适配能力。
- 内存访问便捷性:支持统一内存编址,确保编程易用性与数据访问效率的平衡。
- 架构扩展的原生性:支持从单体超节点平滑扩展至大规模集群超节点。
关键信息
芯片协同演进
- GPU需求:互联先行,算力与显存需同步放大,以实现带宽与性能的匹配。
- CPU需求:需具备高单核性能和IO扩展能力,以支持高速通信和任务调度。
- 互联协议:中兴通讯自主研发凌云交换芯片,兼容多种主流协议(如RDMA、Clink、OISA等)。
- 物理层技术:以太网SerDes技术在带宽扩展方面更具潜力,尤其在超节点Scale-Up场景中。
高速互联技术
- OEX架构:正交无背板互联设计,提升信号完整性、集成密度与系统可靠性。
- 液冷技术:随着芯片功耗提升,液冷已成为超节点散热的必选方案,涵盖单相冷板式、硅基微通道、两相冷板及浸没式等多种形式。
- 供电方案:高压直流(HVDC)技术逐步成为超节点的主流供电方案,提升效率并降低能耗。
- 互联扩展:支持“电交换+光互联”与“光交换+光互联”两种技术路线,前者更成熟,后者具备更高性能潜力。
AI工厂构建
- 核心理念:从“项目”向“工厂”转变,实现标准化、规模化与自动化的AI生产系统。
- 构建路径:
- 物理层:构建高性能基础模组,实现高密度、低延迟的超节点互联。
- 系统层:通过全栈垂直优化,实现异构算力与网络资源的统一调度。
- 架构层:采用模块化设计,支持灵活扩展与智能运维。
- 算力仿真平台:用于预测不同超节点形态下的性能表现,辅助硬件选型与并行策略优化。
AI工厂优势与价值
- 缩短上线周期:通过预验证的软硬件配置,加快项目交付。
- 支持架构平滑演进:模块化与解耦设计,提升系统适应性与可扩展性。
- 优化TCO:通过资源密度与利用率提升,降低CAPEX与OPEX。
- 降低集成风险:采用经过验证的架构和兼容性组件,保障系统稳定性。
技术路线与生态建设
- OEX架构创新:中兴通讯提出正交无背板互联交换架构,提升集成密度与系统性能。
- 标准引领:推动OEX机械与电气规范开放,支持第三方组件标准化接入。
- 开源与合作:积极参与国内标准制定,开源Co-Sight协议,推动AI基础设施生态共建。
未来展望
- Token经济学:强调从“FLOPS”向“每瓦Token数”的价值导向转变。
- 开放生态:中兴通讯致力于构建开放、解耦、协同的AI基础设施生态,支持智算中心的可持续发展与高效运营。
附录
缩略语表
| 缩略语 | 英文全称 | 中文全称 |
|---|---|---|
| AI | Artificial Intelligence | 人工智能 |
| ASIC | Application-Specific Integrated Circuit | 专用集成电路 |
| CAPEX | Capital Expenditure | 资本性支出 |
| CXL | Compute Express Link | 计算快速链接 |
| DSA | Domain-Specific Architecture | 领域专用架构 |
| EPLB | Expert Load Balancing with Redundancy | 基于冗余的专家负载均衡 |
| EP | Expert Parallelism | 专家并行 |
| HBD | High-Bandwidth Domain | 高带宽域 |
| HBM | High Bandwidth Memory | 高带宽内存 |
| IBGDA | Intelligent Bandwidth-Guided Data Aggregation | 智能带宽引导数据聚合 |
| IPC | Instructions Per Cycle | 每周期指令数 |
| LLM | Large Language Model | 大语言模型 |
| MoE | Mixture of Experts | 混合专家模型 |
| MTP | Multi-Token Prediction | 多Token预测 |
| MMA | Matrix Multiply-Accumulate | 矩阵乘加内核 |
| MFU | Model FLOPs Utilization | 模型算力利用率 |
| NIC | Network Interface Card | 网络接口卡 |
| NVMe | NVM Express | 非易失性内存主机控制器接口规范 |
| OCS | Optical Circuit Switch | 光交换机 |
| OEX | Orthogonal Electrical eXchange | 正交无背板互联交换 |
| OISA | Omni-directional Intelligent Sensing Express Architecture | 全向智感互联 |
| OPEX | Operating Expense | 运营支出 |
| OTN | Optical Transport Network | 光传送网 |
| PCIe | Peripheral Component Interconnect Express | 高速串行计算机扩展总线标准 |
| PD | Prefill & Decode | 预填充与解码 |
| PHY | Physical Layer | 物理层 |
| RoCE | RDMA over Converged Ethernet | 以太网上的RDMA |
| Scale-Across | Scale-Across Data Center | 跨数据中心扩展 |
| Scale-Out | Scale-Out | 横向扩展 |
| Scale-Up | Scale-Up | 纵向扩展 |
| SerDes | Serializer/Deserialization | 串行器/解串器 |
| TCO | Total Cost of Ownership | 总体拥有成本 |
| TP | Tensor Parallelism | 张量并行 |
| TTFT | Time To First Token | 首字延迟 |
| UALink | Ultra Accelerator Link | 超级加速器链路 |
| UEC | Ultra Ethernet Consortium | 超级以太网联盟 |
参考文献
- 中兴通讯. 面向高带宽域的 Scale-Up 算力高速互联技术[J]. 《中兴通讯技术》,2024, 30(3): 1-8.
- “面向AI大模型训练的高性能网络”,《中兴通讯技术(简讯)》2024年第3期
- NVIDIA. 800 VDC architecture for next-generation AI infrastructure[R/OL]. (2025) [2025-11-15]. https://developer.nvidia.com/blog/building-the-800-vdc-ecosystem-for-efficient-scalable-ai-factories/
- Open Compute Project. Diablo 400 project: rack and power 0.5.2 [S/OL]. 2024 [2025-11-15]. https://www.opencompute.org/
- 开放计算技术委员会. 全液冷冷板系统参考设计及验证白皮书[R/OL]. (2024) [2025-11-15].
- 中兴通讯. 中兴通讯液冷技术白皮书[R/OL]. 2025 [2025-10-15].
- 中国信息通信研究院. 算力中心冷板式液冷发展研究报告[R/OL]. (2025) [2025-11-15].
- 中兴通讯. 基于正交架构的超节点系统[C/OL] // 2025 阿里云栖大会. 杭州, 2025 [2025-11-15].
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载