中国移动NICC新型智算中心技术体系白皮书-56页_16mb
报告摘要
新型智算中心技术白皮书总结
1. 前言
- ChatGPT等大模型推动全球AI进入新阶段,智算中心成为关键基础设施。
- 国内外智算中心建设呈现爆发式增长,截至2023年已有40+城市建成。
- 早期智算中心存在技术、标准、生态、运营等多方面挑战,亟需转型。
2. 新型智算中心(NICC)技术体系架构
2.1 技术架构
- 五层两域模型:
- 基础设施层:提供硬件资源(计算、存储、网络)
- 智算平台层:资源管理与池化
- 应用使能层:AI开发框架集成
- 智算运维域:IaaS资源管理
- 智算运营域:客户对接与全局调度
- 发展阶段划分:
- 集群时期:千亿级模型,需高速互联与算力池化
- 超级池化时期:万亿级模型,需百卡级统一调度与存算一体
3. 五大关键演进方向
3.1 新互联:打破算力瓶颈
- 卡间互联:
- 千亿级模型需高带宽、低延时互联,PCIe逐步被扣卡模组替代。
- 推动统一计算总线协议,收敛生态差异。
- 集群间高速无损网络:
- 采用GSE(全调度以太网)技术,实现全局负载均衡。
- 核心挑战:网络拥塞、跨域同步、流控优化。
3.2 新算效:重塑计算架构
- 下一代AI芯片设计:
- 存算一体、稀疏化计算、复杂算子硬件支持。
- 减少访存功耗与提升算力利用率。
- DPU协同优化:
- 实现计算、存储、网络的深度协同,降低端到端延迟。
- 推动云平台与硬件的标准化,解决兼容性问题。
3.3 新存储:挖掘数据价值
- 数据交互流程:
- 大模型训练涉及上传-转移-读取-归档等多阶段交互。
- 存储挑战与融合:
- 小文件读优化、容量扩展、跨地域调度。
- 多协议融合存储,推动原生协议融合与统一数据模型。
3.4 新平台:融通无限生态
- 池化技术:
- 微秒级细粒度资源调度,支持跨节点动态调用。
- 算力原生跨架构:
- 构建统一抽象层,屏蔽硬件差异,实现异构算力融合。
3.5 新节能:实现可持续发展
- 液冷技术应用:
- 冷板式与浸没式液冷为主流解决方案。
- 需解决标准化、可靠性与运维效率问题。
4. 总结与倡议
- 产业协同:推动技术标准化,构建开放生态系统。
- 算力进化:加速存算一体、大模型压缩传输等前沿技术落地。
- 绿色节能:完善液冷产业链,提升能效比。
融合通信协议📉、DPU协同📡、存算一体🧠、液冷🚰四大核心技术,共同驱动国内AI基础设施向集群化、无损化、绿色化演进。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载