面向AI大模型的智算中心网络演进白皮书（2023年）-29页_479kb

AI大模型智算中心网络演进关键需求与应对技术路径

• 核心挑战：面对ChatGPT等模型千亿级参数训练需求，现有网络在规模、带宽、延迟、稳定性方面存在数量级鸿沟，混合并行训练场景下，通信开销倍增，网络成为算力瓶颈。
• 主流需求：50ms内动态时延控制、双千G级端口密度、故障亚毫秒收敛、PFC死锁规避能力、并支持跨厂商异构硬件协同的RDMA网络
• 能力演进重点：
  1. 全局负载感知路由取代传统ECMP流量分配
  2. SRv6/PFC-Notifying等创新协议实现流级通信优化
  3. 多级缓存协同架构防止数据丢失
• 技术路线特征：
  • 400G/800G模块+光引擎共封装(CPO)方案功耗下降30%
  • 软件定义网络能力入驻硬件芯片实现端侧智能流量调度
  • 自原子化运维(AIOps)平台检测流级故障并执行热修复
• 行业现状：
  • 中国15家“AI国家队”已构建超1万节点计算集群
  • 大模型通信库横向扩展能力拐点显现，需专用网络协议栈适配

附：中国时延敏感型应用渗透率较快增长，2024年AI智算中心建设进入攻坚期，需协同推进芯片→交换架构→协议栈三层优化