华为+星河AI网络白皮书-50页_22mb

星河AI网络白皮书总结

核心内容

本白皮书主要探讨了AI大模型训练对网络提出的新需求，分析了当前网络技术在AI场景下的局限性，并提出了星河AI网络的解决方案，以满足高性能、高可靠、可运维、大规模和开放性等需求。

主要观点

1. AI大模型发展对网络提出新挑战

• 算法：AI模型已进入万亿参数时代，模型结构主要采用解码器架构，具备更强的泛化能力。
• 算力：单卡算力增长缓慢，而AI训练所需的GPU数量呈指数级增长，算力集群规模从千卡走向万卡。
• 数据：AI训练对高质量数据依赖度高，数据集规模持续扩大，但高质量数据面临枯竭风险。

2. 网络面临技术革新需求

• 并行计算模式：AI大模型需要超大容量网络支撑，催生了“参数面小网”和“参数面大网”两种网络架构。
• 降低网络时间：网络通信时间在AI训练中占比显著提升，需优化网络性能以提升有效算力。
• 高可用网络：AI训练周期长，对网络可靠性要求极高，需降低MTBF（平均无故障时间）。
• 云化趋势：AI大模型云化（AI CLOUD）推动网络向多租户、云网一体化架构发展。

关键信息

3.1 高吞吐

• AI网络需具备高吞吐能力，包括端口高吞吐和全网高吞吐。
• 传统ECMP机制在AI场景下不适用，需采用更先进的负载均衡技术，如网络级和包级负载均衡。
• NSLB（网络级负载均衡） 是针对AI训练场景的创新方案，可实现高吞吐和多任务并行。

3.2 高可靠

• DPFR（数据平面快速恢复） 技术可实现故障链路亚毫秒级切换，确保训练任务的连续性。
• AI网络故障排查依赖自动化和智能化手段，如基于Telemetry的实时监控、PFC风暴检测、队列一致性校验等。

3.3 可运维

• AI网络运维需具备全栈可视化能力，包括基础网络运维、RoCE无损网络运维和AI特有场景运维。
• 三层两维运维方案：涵盖监控和排障两个维度，实现故障一键诊断和快速定界。

3.4 大规模

• 构建大规模算力集群需从芯片、网元、组网架构三方面进行创新。
• 多轨网络架构：为不同卡号构建独立网络平面，提升网络规模和性能。
• 有效带宽率：衡量网络成本的关键指标，组网层次越少，有效带宽率越高，成本越低。

3.5 开放性

• RoCE协议相较于IB协议具备更高的开放性，可复用以太生态，支持多厂家设备，降低运维复杂度。
• RoCE性能与IB相当，可支持百K+规模组网，是未来AI网络的主流选择。

最佳实践

4.1 武汉人工智能计算中心

• 武汉人工智能计算中心是首个面向产业的人工智能计算中心，采用“一中心、四平台”模式。
• 项目一期部署了100P AI FLOPS算力，采用星河AI网络方案，支持AI训练场景需求。
• RoCE网络性能与IB网络基本持平，满足高性能计算需求。

展望

• 随着AI大模型发展，以太网技术将成为主流选择。
• 未来网络技术将更加高效、智能、灵活、安全和可解释。
• 星河AI网络致力于推动AI技术的可持续发展，实现行业共赢。

术语与缩略词