中国移动研究院：2023分布式异构智能算力的管理和调度技术研究报告_26页_1mb

研究报告总结

研究背景

本报告聚焦分布式异构智能算力的管理和调度技术，旨在满足数字经济快速发展对算力的需求。中国算力规模在2023年达到1785EFlops，异构算力增速达72%。研究分析了泛在异构算力在训练或推理过程中的协同需求，包括算力类型、规模、性能等要求，并探讨了跨数据中心、多级算力池化等场景下的管理方案。

异构算力的发展和应用场景需求

异构算力整合了多种处理器体系（如CPU、GPU、FPGA等），以提升计算效率。典型类型包括GPU、APU、TPU、FPGA、ASIC和DPU，各有优势。GPU强调并行计算；TPU专用于神经网络；FPGA提供定制化加速。应用场景广泛，包括机器学习训练、高性能计算、图形渲染、物联网数据处理和区块链加密。行业需求以互联网为主，占智能算力需求53%。

分布式异构算力管理和调度的关键技术能力

关键技术涵盖虚拟化、池化、调度和度量。虚拟化通过MIG或vGPU技术实现资源切分和隔离；池化整合异构资源形成统一池，提高利用率；调度涉及容器化管理、负载均衡和跨节点协同；度量包括静态参数和动态性能指标，支持算力精确匹配。

当前业界技术实现情况

• 中国移动智算体系：通过API劫持技术实现异构资源池化和细粒度分配。
• 浪潮AIStation平台：支持GPU、寒武纪等异构卡管理，提供Gang调度、网络拓扑调度。
• 新华三傲飞平台：整合AI和HPC资源，支持多种调度策略。

总结与展望

分布式异构算力的管理将提升算力利用率和数字化转型支持。挑战包括异构适配和标准化，未来需构建开放生态，增强应用能力，推动智算产业发展。