NICC新型智算中心算力池化技术白皮书-33页_1mb

算力池化技术背景与概述

当前数字经济快速发展，人工智能应用场景日益广泛，智能算力成为支撑产业数字化的关键基础设施。然而，传统智算中心存在资源利用率低下、碎片化严重等问题，例如GPU利用率平均低于30%，导致整体效能不高。为此，算力池化技术应运而生，旨在通过统一调度和管理异构算力资源（如GPU和AI芯片），实现资源的高效整合、动态分配和池化共享，以提升算力使用效率、降低建设和运维成本。

算力池化定义与目标

算力池化基于云计算扩展，整合CPU、GPU和AI芯片等资源，构建统一的资源池。其核心目标包括：

• 提高资源利用率：通过动态分配和超分技术，减少资源碎片化。
• 实现敏捷管理：支持按需分配、细粒度调度，适应多样化AI任务需求。
• 整合碎片资源：跨节点调用资源，支持远程共享，促进全局效能优化。

架构与关键技术

算力池化平台采用Kubernetes等容器化技术， key架构包括：

• 技术模块：池化资源管理、资源服务代理和池化运行时，实现API劫持和应用程序监视器等软件定义方式，用于资源细粒度分配（如算力1%颗粒度）和动态伸缩。
• 关键技术：包括异构算力解耦、分布式调度、服务质量管理（如SLA分级），以支持多任务队列化和峰谷互补，提升整体吞吐率。

产业实践

业界厂商如趋动科技和华为已推出算力池化解决方案，实践案例包括：

• API劫持技术：实现资源虚拟化，透明共享物理算力。
• Kubernetes增强：通过Volcano等调度技术，优化GPU混部和利用率。
  中国移动在实际部署中，基于其云底座，试点小模型训练池，结合自研池化模块，实现了四大能力（化整为零、隔空取物等），提升资源效率。

展望与倡议

随着AI和GPT等技术爆发，算力需求激增，算力池化技术潜力巨大。中国移动呼吁产学研合作，共同推进关键技术攻关（如集中调度和技术标准）、标准体系建立，以及开源实现，以促进产业生态繁荣，加速全球算力网络构建。