金融数据中心人工智能算力建设指引-北京金融科技产业联盟_68页_2mb

金融数据中心人工智能算力建设指引总结

本文作为《金融数据中心人工智能算力建设指引》，由北京金融科技产业联盟于2023年8月发布。主要阐述了人工智能算力建设的重要性、发展现状、面临挑战及建设指引，旨在为金融机构提供相关参考。

1. 政策背景与发展需求

人工智能已被列为国家战略，相关国家政策密集出台，强调加快AI与实体经济深度融合。金融行业作为AI应用的重点领域，在风险控制、客户服务、业务流程优化等方面的潜力巨大。人工智能算力数据中心是承载AI应用的核心基础设施，对算力基础设施提出了高性能、低成本、绿色化的需求。

2. 面临的挑战

• 区域发展不均衡：东部算力紧张，西部利用不足。
• 计算能力不足：对数据中心能耗要求高，算力增长速度跟不上数据和算法复杂度。
• 连接与协同能力弱：不同算力建设主体分散，缺乏统一调度。
• 调度灵活性差：受限于网络和硬件拓扑，调度效率较低。

分层问题还可细分为：选址、能源消耗、AI算力底座支持及业务场景匹配四个技术层面。

3. 建设指引

• 架构分层：

  • 硬件层（AI芯片、服务器、集群系统）：

    • 支持训练和推理芯片差异化设计。
    • AI芯片需高算力、能效比，且支持高速互联。
    • 服务器容量需适配不同业务场景。

  • 此外，存储子系统和网络互联子系统也需高吞吐、高可用。

  • 软件层（芯片使能软件、开发框架、使能平台、AI市场）：

    • 提供统一接口的开发和调度平台。
    • 支持多种深度学习和分布式框架。
    • 数据管理平台应具备数据接入、预处理、标注、开发训练、评估及部署等全流程支持能力。

  • 基础设施要求：包括选址、能效（PUE值）、机房改造等，尤其需重视绿色算力，减少碳排放。

• 协同建设原则：

  • 传统与新型算力协同。
  • 中心端算力与边缘算力协同。
  • 算力与网络融合。

4. 运维与节能

• 运维管理方式：

  • 明确数据中心运维组织架构。
  • 引入智能化管理平台提升效率。

• 节能管理：

  • 推广绿色计算技术如液冷改造，降低PUE。
  • 实施能耗分级管理，优先选用绿色能源。

5. 成功案例与未来展望

• 工商银行：建立基于高性能网络的AI算力集群，优化训练效率并提升带宽利用率，成功赋能金融场景。
• 蚂蚁集团：实现端云协同，通过分布式调度降低风控计算负担，提高效率并保护用户隐私。
• 网商银行：运用卫星遥感技术结合GPU优化调度，支持农村金融的一线服务需求。

未来展望：

• 用户对AI算力的需求将持续增长。
• 金融价值借助AI更加凸显，如提升客户体验和服务效率。
• 绿色算力将在“碳达峰/碳中和”背景下具有战略意义。

总体而言，本文通过多维度指引，强调了信息系统基础设施在AI变革中的重要性，为金融机构构建高效、绿色、安全的智能算力体系提供了详细参考。