超节点系列报告(一)_万卡一机_灵衢铸基_32页_2mb
报告摘要
华为超节点系列报告(一)总结
核心内容概述
华为推出的“超节点”架构是应对大模型持续演进和国产芯片制程受限的系统级解决方案。通过将数百至数千颗芯片组织成一台逻辑计算机,超节点能够满足大模型在训练和推理中的高性能需求,同时弥补国产芯片在单卡性能上的不足。该架构基于“灵衢UB 2.0”技术底座,实现芯片间的高效互联和资源统一调度,提升算力、内存、带宽等多维度性能,同时降低成本与提高可用性。
主要观点与关键信息
1. 供给侧与需求侧驱动超节点发展
- 供给侧限制:国产AI芯片在先进制程、HBM等关键环节仍受制于制造工艺,短期内难以通过单芯片性能提升追赶国际领先水平。
- 需求侧演进:大模型正向万亿参数、MoE稀疏架构、长上下文和多模态方向发展,单机已无法满足模型的计算与内存需求,需依赖大规模多卡并行。
- 系统瓶颈:过去8年,单节点计算能力增长约40倍,但节点间通信带宽仅增长4-8倍,传统Scale-out架构面临通信墙、内存墙与利用率瓶颈。
2. 超节点的系统架构与技术优势
- 灵衢UB 2.0:实现统一编址、平等协同、资源池化、分层FullMesh拓扑与APR多路径路由,显著降低协议转换与跨卡通信开销。
- UB-Mesh网络架构:支持分层局部化通信,提升带宽利用率与系统线性度。在多个LLM训练任务中实现95%以上的线性度,成本效益达传统Clos架构的2.04倍,可用性提高7.2个百分点。
- 超节点产品矩阵:
- Atlas 900 A3:384卡规模,已实现规模化商用,服务超过2000家政企客户。
- Atlas 950 SuperPoD:支持8192颗Ascend 950DT,FP8算力达8EFLOPS,内存容量达1152TiB,互联带宽达16PB/s。
- Atlas 950 SuperCluster:支持52.4万卡规模,提供超大规模算力支持。
3. 超节点的产业化与产业链影响
- 算力提升:Atlas 950 SuperPoD相比NVL144,算力提升6.7倍,内存容量提升15倍,互联带宽提升62倍。
- 成本与效率:超节点通过降低交换机和光模块使用量,提升整体成本效益。
- 产业链受益:超节点的发展将带动芯片制造、先进封装、整机交付、液冷系统、光互联器件等多环节需求,涉及公司包括海光信息、寒武纪、中微公司、盛合晶微、超聚变、神州数码、华勤技术等。
4. 负载侧优化与通信效率提升
- MoE与长上下文:MoE模型的稀疏激活和长上下文需求对通信和内存访问提出更高要求。
- TP/SP通信:占总训练流量的96.98%,具有明显的局部性特征,适合在高带宽域中完成。
- APR多路径路由:在拥塞或故障时可动态切换路径,提升系统韧性与吞吐性能。
- 集合通信优化:如AllReduce与All-to-All,利用多路径与分层广播/归约提升训练效率。
5. 技术实现与拓扑结构
- 分层FullMesh拓扑:从1D单板、2D机架、4D Pod到nD SuperPod,实现资源的递归全互联。
- 通信分层:短距电直连(如UB x56、x12、x4)与长距光互联(如HRS、Clos)结合,满足不同维度的通信需求。
- 硬件与软件协同:UB I/O控制器支持异构资源统一访问,CANN软件栈开源,提升生态协同能力。
6. 风险提示
- 核心技术与产品交付风险:Atlas 950/960超节点及Ascend 950DT等产品仍处于产业化阶段,交付依赖芯片量产、HBM、灵衢UB 2.0等技术协同。
- 市场需求与商业化风险:超节点的推广依赖AI算力需求增长与政企客户投资意愿,同时对机房基础设施要求较高。
- 供应链及产业链映射风险:涉及多个技术环节,关键部件供应受限或成本上升可能影响系统交付与盈利能力。
投资建议与产业链受益分析
01 产业链投资机会
- 机柜BOM:带动服务器整机、光芯片、HBM存储颗粒等需求。
- 先进封装:逻辑折叠3D封装、混合键合设备、EDA工具等。
- 光互联器件:光芯片、光模块、光纤连接器等。
- 高速PCB及基板材料:深南电路、沪电股份等。
- 液冷散热系统:英维克、申菱环境等。
- 供电与结构件:杰华特、宏发股份等。
- 数据存储系统:中科曙光、浪潮信息等。
- 整机代工:超聚变、工业富联等。
- 底层基础软件:华大九天、达梦数据等。
02 行业投资评级
- 看好:行业指数相对于沪深300指数上涨10%以上。
- 中性:行业指数相对于沪深300指数涨跌幅在-10%至+10%之间。
- 看淡:行业指数相对于沪深300指数下跌10%以下。
结论
华为超节点通过系统级优化,突破了传统架构在通信与内存等方面的瓶颈,为大模型训练与推理提供更高效率与更低成本。其技术底座“灵衢UB 2.0”支持大规模多卡协同,显著提升性能与可用性,成为国产AI算力的重要架构路径。随着超节点的产业化推进,其对产业链的带动效应将逐步显现,涉及多个技术环节和相关企业。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载