【中科驭数】2024年IaaS_on_DPU_IoD_：下一代高性能算力底座技术白皮书_71页_6mb

IaaS on DPU (IoD) 下一代高性能算力底座技术白皮书总结

核心内容

IaaS on DPU（IoD）是一种基于数据处理单元（DPU）构建的高性能云计算基础设施技术路线。该技术通过将云计算平台的基础设施组件（如网络、存储、安全等）卸载到DPU上，实现对CPU资源的释放，提升整体系统的性能、稳定性与资源利用率。IoD技术已成为下一代高性能算力底座的核心技术，推动云计算向更高效率、更低成本、更灵活的方向发展。

主要观点

• DPU的角色：DPU作为数据中心的“神经中枢”，负责数据在不同计算单元间高效流通，是高性能云计算系统协同工作的关键。
• IoD技术的演进：IoD技术并非全新概念，而是已被AWS、阿里云等头部企业验证并落地的技术方向，具备显著的商业价值。
• 技术架构：IoD技术通过将基础设施组件下沉至DPU，构建了统一的算力底座，支持裸金属、虚拟机、容器等多形态计算服务，实现统一调度和管理。
• 性能优势：IoD技术通过硬件加速、低延迟处理、高吞吐量等手段，显著提升网络、存储与安全性能，同时降低CPU负载，提高整体算力利用率。
• 应用范式：IoD适用于公有云、私有云、边缘云和智算云等多种云环境，满足不同业务场景对算力、网络、存储与安全的需求。
• 未来趋势：随着AI和大模型的发展，对算力基础设施的性能要求持续上升，IoD技术成为应对这种挑战的首选方案。

关键信息

1. 云计算发展趋势

• 业务承载多模化：云平台需支持容器、虚拟机、裸金属等多种承载方式，以满足不同业务需求。
• 计算性能极致化：云计算需提供超高带宽、超低延迟、高并发处理能力，以支持AI、大数据等高负载应用。
• 系统构成组件化：云计算技术体系趋向模块化和API化，便于灵活扩展和集成。

2. AI产业催生高性能云计算需求

• AI技术发展：从监督学习到预训练模型，再到大模型，AI技术不断演进，对算力需求呈指数级增长。
• 云计算性能影响：云计算的网络、存储、调度等性能直接影响AI模型训练效率、稳定性与成本。
• 智算云架构：由基础设施层、管理调度层、大模型平台层和AIGC应用层组成，DPU在其中起到关键作用。

3. IoD技术路线

• IoD架构：IoD架构将云计算基础设施组件（如网络、存储、安全）卸载到DPU，实现资源的高效利用。
• 关键技术组件：
  • BM-Agent：支持裸金属业务的快速切换与迁移。
  • VM-Agent：统一管理虚拟机实例。
  • CM-Agent：管理容器业务，实现资源调度。
  • CNI-DPU、CSI-DPU：提供高性能网络和存储能力。
  • Sec-DPU：实现分布式安全防护。
  • Service Agent：提供统一的服务治理能力。
  • Image-Preheater：优化镜像加载效率。
  • Target Abstraction：实现DPU的兼容性与可扩展性。
• Kubernetes适配：IoD技术推荐采用扩展Kubernetes架构，通过插件机制引入DPU能力，实现统一资源管理。

4. 高性能云计算规格定义

• 网络规格：
  • 带宽：至少百GB甚至更高。
  • 延迟：控制在微秒或纳秒级别。
  • 并发连接：至少数万或数十万。
  • QoS：支持不同业务对网络资源的动态分配。
• 存储规格：
  • 吞吐量：100-400Gb/s。
  • IOPS：至少千万级。
  • 延迟：控制在亚毫秒级。
  • 容量：可达EB级。
  • 可靠性：具备数据冗余、备份与恢复能力。
• 安全规格：
  • 算力损耗：不超过5%。
  • 安全吞吐量：可达正常情况的70-90%。
  • 延迟：控制在微秒级。
  • 会话数量：至少千万级。
  • 识别准确率：接近100%。
  • 误报率与漏判率：接近0%。

5. IoD高性能云计算应用范式

• 公有云：提供多种算力形态，通过IoD提升性能与资源利用率。
• 私有云：强化运维隔离与安全防护，提升资源利用率与安全性。
• 边缘云：通过DPU实现低时延与高吞吐，优化边缘计算场景。
• 智算云：专注于AI训练与推理，提供高吞吐、低延迟、安全隔离的计算环境。
• 低时延云：适用于金融交易、工业控制等对时延敏感的业务场景。

建设路径

• 通用算力：通过卸载网络、存储、安全等基础服务到DPU，释放CPU资源，提升性能与效率。
• 智算算力：结合CPU、GPU与DPU，构建“3U一体”异构算力架构，支持大规模AI训练。
• 网络技术：通过SDN与DPU网络卸载，实现集中化、自动化、可编程的网络管理。
• 存储技术：通过DPU卸载存储任务，提升吞吐与延迟，支持多协议存储。
• 安全技术：通过DPU实现安全卸载，支持零信任网络与分布式安全策略。
• 服务治理：IoD技术为微服务架构提供统一的服务治理能力，降低通信延迟与资源消耗。

总结

IoD技术通过将云计算基础设施组件卸载到DPU，实现了资源的高效利用与性能的显著提升，是构建下一代高性能算力底座的最佳实践。随着DPU技术的成熟与普及，IoD将推动云计算体系向更高效、更灵活、更安全的方向发展，成为支撑AI、大数据、边缘计算等新兴业务的核心技术。