【中国工商银行_云豹智能】2023年DPU金融行业发展白皮书_63页_4mb
报告摘要
DPU金融行业发展白皮书总结
核心内容概述
本白皮书围绕DPU(Data Processing Unit)技术在金融云平台中的应用展开,系统分析了金融云平台在云原生技术推动下的发展趋势与挑战,并探讨了DPU在提升数据中心性能、安全、绿色低碳等方面的重要作用。DPU作为连接算力资源与网络资源的关键节点,能够实现对网络、存储、安全、管控等任务的卸载,从而提升计算资源利用率和系统性能。
主要观点与关键信息
一、云原生浪潮下金融行业云基础设施的发展趋势和挑战
(一)发展趋势
- 绿色计算与低碳发展:数据中心作为金融行业的关键基础设施,正面临节能减排压力,需通过云计算提升资源利用率。
- 部署模式多样化:金融云平台包括私有云、混合云等,以满足不同业务需求。
- 稳定与敏捷并存:金融业务既有对稳定性的高要求,也有对敏捷性、高性能和高可用性的需求。
- 安全可信与可控:金融云平台需提供安全的数据存储和传输机制,满足金融行业对数据安全和合规性的要求。
- 高可用需求:金融云平台需要具备快速恢复能力,保障业务连续性。
- AI能力支撑:AI大模型的训练和推理需求日益增长,推动金融云平台对算力、网络和存储的更高要求。
(二)行业挑战
- 资源利用率低:容器和微服务架构带来资源管理复杂度上升,导致资源调度困难。
- 部署模式的挑战:缺乏统一的云平台部署方案,需大量定制化开发。
- 资源弹性不足:传统架构在跨集群、跨资源调度和裸金属服务器弹性方面存在瓶颈。
- 安全防护的挑战:东西向流量安全成为重点,需更精细的安全策略和架构。
- 高可用的挑战:裸金属和容器的高可用性难以保障,需更高效的迁移和恢复机制。
- 大模型训练难度大:面临“内存墙”、“通信墙”和“存储墙”三方面瓶颈。
二、DPU发展与趋势
(一)DPU历史演进
- 传统网卡(NIC):仅负责数据传输,不具备可编程能力。
- 智能网卡(SmartNIC):具备一定的硬件卸载能力,但仍需主机CPU控制。
- FPGA+CPU DPU:兼具数据面和控制面卸载能力,但受限于芯片面积和功耗。
- DPU SoC:单芯片设计,兼顾性能和功耗,是当前数据中心架构的重要演进方向。
(二)DPU生态发展
- 国内外云厂商和芯片厂商正在积极构建DPU的软硬件生态。
- 国内如ODPU、阿里云CIPU、火山引擎自研DPU等项目推动了DPU生态建设。
- 目前DPU生态仍处于早期阶段,面临软硬件兼容性、标准制定和API接口统一等挑战。
(三)DPU典型案例
- AWS Nitro DPU:将网络、存储、安全等功能卸载到专用硬件,提升性能并降低成本。
- Nvidia BlueField-3 DPU:支持高带宽网络连接,具备通用可编程能力。
- Intel IPU:结合硬件加速和可编程能力,提升数据中心整体性能和安全性。
- 阿里云CIPU:实现网络、存储、虚拟化功能的全硬件卸载,提升资源利用率。
- 火山引擎自研DPU:支持弹性裸金属、高性能容器网络和零信任安全方案。
三、基于DPU构建绿色低碳金融云
(一)统一部署弹性调度
- DPU可实现对虚拟机、容器、裸金属的统一管理,提升资源调度灵活性。
- 支持分钟级交付,提升业务部署效率。
(二)计算实例高可用
- 通过DPU实现裸金属、虚拟机和容器的高可用性,提升系统容灾能力。
(三)加速云原生网络
- DPU可卸载虚拟交换机和网络处理功能,实现高性能、低时延的网络转发。
(四)加速云原生存储
- DPU支持存储卸载和加速,如RDMA、SPDK等技术,提升存储效率。
(五)加速微服务应用
- DPU支持服务网格中SideCar功能的卸载,降低延迟和资源占用。
(六)加速云原生安全
- DPU可实现对安全功能的硬件加速,如加密、解密、入侵检测等。
(七)加速大模型训练
- 通过RDMA和DDPR技术,减少数据传输时延,提升大模型训练效率。
(八)提升计算资源利用率
- DPU实现IO卸载,释放CPU资源,提升计算密度和利用率。
四、DPU在金融云的应用分析
(一)弹性裸金属
- DPU支持云盘启动,实现裸金属的快速交付与管理。
- 提供兼容VPC、SLB等云平台功能,实现资源灵活调度。
(二)零信任安全
- DPU支持微分段防火墙、入侵防御、防病毒等安全功能,实现容器级安全防护。
- 提供硬件加速的安全处理能力,降低安全对网络性能的影响。
(三)高性能扁平化容器网络
- DPU支持超过1024个VF接口,满足大规模容器网络需求。
- 提供标准化OpenFlow网络编程能力,实现高性能、低延迟的容器网络架构。
(四)人工智能大模型
- DPU通过DDPR和DDPS技术,实现GPU间直接数据传输,提升AI训练效率。
- 支持统一远端存储访问,减少数据搬移开销。
五、DPU在金融云平台发展中的展望
- 基础设施层全面卸载:DPU将承担更多基础设施控制和数据处理任务,实现与租户域的物理隔离。
- 多领域硬件加速:涵盖网络、AI、高性能计算、大数据等,提升系统性能和安全性。
- 数据和计算安全:DPU需在性能与安全之间取得平衡,探索更优的加密和安全方案。
- 互联技术发展:CXL、UCIe、RDMA等技术推动DPU与CPU、GPU的协同,促进新型数据中心架构发展。
六、结语
DPU作为新一代数据处理芯片,正在成为金融云平台的重要组成部分。其在提升资源利用率、保障系统高可用性、优化网络和存储性能、加强数据安全等方面展现出巨大潜力。尽管DPU生态发展尚不成熟,但随着技术迭代和标准化推进,DPU将在金融云平台建设中发挥更关键的作用。倡议金融行业推动DPU软硬件生态标准化,实现DPU与服务器、云平台的解耦,助力金融行业构建绿色、安全、高效、自主可控的云平台。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载