2023-09-03-中国移动-2023年NICC新型智算中心技术体系白皮书_56页_16mb

中国移动NICC新型智算中心技术体系白皮书总结

核心内容

中国移动发布的《新型智算中心技术体系白皮书》聚焦于构建面向未来大模型的新型智算中心（NICC），提出从“新互联、新算效、新存储、新平台、新节能”五个维度进行系统化技术演进，以支撑大模型对千行百业的革新与改造。该白皮书旨在推动智算中心在技术标准、生态构建、业务发展和全局运营等方面的统一与优化，为合作伙伴提供技术路线选型指导。

主要观点

1. 智算中心的发展趋势
   智能算力已成为全球第一大算力，智算中心建设呈现快速发展态势。随着大模型的普及，传统智算中心的架构和技术已无法满足需求，亟需进行系统性重构。

2. 技术体系架构
   NICC技术体系由“三层两域”构成：基础设施层、智算平台层、应用使能层，以及智算运维域和智算运营域。该架构支持从硬件设施到软件服务的端到端AI全栈环境，满足超大规模、超高复杂度模型训练和推理需求。

3. 技术发展路径
   NICC的发展分为两个时期：

   • 集群时期：以多芯片高速互联和统一存储架构为核心，提升算力扩展性和效率。
   • 超级池化时期：未来将进入以“超级服务器”为核心的架构，实现更高吞吐、更低时延的系统算力。

4. 新互联
   针对大模型训练的通信需求，提出统一高速互联协议和全调度以太网（GSE）技术方案，以解决传统网络的瓶颈问题，提升通信效率和网络性能。

5. 新算效
   通过存算一体、稀疏化计算、支持复杂AI算子和降低推理时延等技术手段，重塑计算架构，提升算力效率。

6. 新存储
   面对大模型训练对存储的挑战，提出多协议融合存储和全局统一存储方案，以提升存储效率和数据交互能力。

7. 新平台
   强调池化技术、算力原生技术、分布式训练技术在智算平台中的重要性，以实现资源高效利用和跨架构迁移能力。

8. 新节能
   通过新型散热技术和能效优化设计，推动智算中心可持续发展。

关键信息

3.1 集群内的高速卡间互联

• 需求变化：大模型训练对卡间互联带宽和拓扑结构提出更高要求。
• 现状与挑战：当前卡间互联呈现“七国八制”局面，存在协议不统一、带宽不足等问题。
• 演进建议：建议统一高速互联协议，推动基于计算总线的互联生态发展，提升系统吞吐和效率。

3.2 集群间的高速无损网络

• 主流方案：InfiniBand和RoCE是当前主流方案，但面临性能瓶颈。
• 演进方向：提出全调度以太网（GSE）技术，实现从“流”到“包”的分发机制，以及从“推”到“拉”的流控方式。
• 技术挑战：需解决拥塞控制、协议兼容性、性能优化等问题。

4.1 下一代AI芯片设计思路

• 两种主流架构：GPU和AI专用架构（DSA）是当前两大主流设计思路。
• 技术方向：存算一体化、稀疏化计算、支持复杂算子、降低推理时延。
• 挑战：芯片开发周期长、生态不成熟，需推动标准化和兼容性。

4.2 存算一体构建新型计算范式

• 技术原理：通过将计算与存储融合，降低数据搬运带来的功耗问题。
• 实现方式：可采用模拟计算、数字计算或混合计算方式。
• 应用重点：主要应用于大模型推理，提升能效和计算效率。

5.1 计算与存储的交互过程

• 数据生命周期：包括数据上传、转移、读取、归档写回、模型复制与下载。
• 性能瓶颈：大模型训练中面临小文件读取、存储容量、跨地域调度等挑战。

5.3 多协议融合存储贯通异构数据

• 技术目标：通过协议融合，实现统一数据访问接口，提升数据交互效率。
• 挑战：需解决协议转换语义损失、安全策略差异等问题。
• 解决方案：推动原生协议融合，实现统一数据模型和访问策略。

5.4 全局统一存储打破单体局限

• 技术目标：实现跨地域多数据中心的统一命名空间和资源调度。
• 挑战：受限于现有技术架构和传输性能，尚未有成熟解决方案。
• 未来方向：需通过统一接口标准和协同机制，实现存储与网络的深度融合。

5.5 基于计算总线构建统一内存池

• 技术目标：通过CXL等协议实现统一内存池，提升CPU、GPU、AI加速卡等设备间的协作效率。
• 挑战：内存池化技术复杂，涉及协议、接口、安全性等多个方面。
• 解决方案：推动协议标准化、接口统一、纠错机制完善。

6.1 池化技术优化资源使用效率

• 技术目标：通过池化技术提升GPU等智能算力资源的利用率。
• 实现方式：基于Kubernetes等容器技术，实现资源的动态分配和回收。
• 挑战：原生运行时仿真复杂，需关注兼容性和法律风险。

6.2 算力原生融通多样算力生态

• 技术目标：构建跨架构的算力原生平台，实现异构算力的统一管理和调度。
• 实现方式：通过跨架构编译器、原生运行时、集成开发环境等组件，实现应用的无感迁移。
• 挑战：生态竖井问题突出，需推动产业链协同与标准化。

6.3 分布式训练提升模型训练效率

• 技术目标：通过分布式训练框架提升模型训练效率和可靠性。
• 挑战：包括通信开销、同步问题、容错机制、调试和监控等。
• 未来趋势：自动化、简洁化、高效化。

产业链合作与生态建设

• 白皮书强调产业链各方需凝聚共识，推动技术标准统一和生态融合。
• 中国移动联合多家企业，推动NICC技术体系的构建与成熟。
• 建议加强产业协同，推动算力原生、存算一体、DPU协同、统一存储等关键技术的标准化和产业化。

未来展望

• NICC技术体系是智算中心未来发展的核心方向。
• 通过统一互联协议、池化资源管理、存算一体、DPU协同、统一存储和算力原生平台，实现高效、可靠、可持续的智算中心建设。
• 中国移动呼吁产业界共同努力，推动智算生态繁荣和技术成熟。