2023-12-19-爱分析-2023金融领域先进AI存力报告_30页_16mb

金融行业大模型落地与先进存力分析总结

核心内容概述

在大模型商业化落地的背景下，金融行业作为技术应用的先锋，正面临算力基础设施升级的迫切需求。其中，先进存力成为大模型训练和部署的关键环节，其性能、兼容性和自主可控性直接影响大模型的落地效率和效果。本文围绕金融行业大模型落地过程中对先进存力的需求，分析了当前挑战及典型解决方案。

主要观点

1. 大模型时代算力需求指数级增长

• 大模型的训练和微调需要海量算力资源，例如千亿参数模型的训练耗能巨大。
• 传统算力供给方式难以满足大模型性能需求，需向以智算中心为代表的先进算力基础设施升级。
• 存力作为算力基础设施的重要组成部分，其性能瓶颈可能成为“木桶效应”中的短板，限制计算效能发挥。

2. 金融行业是大模型落地的领军行业

• 金融行业具备较高的数字化成熟度和AI应用能力，是大模型商业化应用的优先领域。
• 头部金融机构如农业银行、工商银行、建设银行、招商银行、招商证券、银河证券等已开始大模型能力建设，并探索私有化部署和自主可控技术路径。

3. 金融行业对AI先进存力有三大核心需求

• 可用性：支持“三高一低”（高吞吐、高IOPS、高带宽、低延时）的极致性能，以提升算力资源利用率。
• 可信性：满足金融行业的信创要求，推动国产软硬件生态兼容，破解国产硬件性能瓶颈。
• 可控性：实现成本可控与软硬件解耦，提高系统的灵活性与可维护性。

关键信息

存力对大模型训练的影响

• 大模型训练过程中，数据集通常以海量小文件形式存在，要求存储系统具备强大的元数据管理能力和高吞吐性能。
• 存储性能不足会导致算力资源空置、训练周期延长，甚至影响模型效果。
• 存储系统需具备高可用性，支持checkpoint快速保存与恢复，以减少训练中断时间。

存力需求场景特点

• 数据采集与处理：数据来源分散、类型多样，需支持高吞吐、多协议互通。
• 模型开发：要求数据统一管理与高效共享，支持POSIX语义兼容。
• 模型训练：需高并发、高IOPS、高带宽、低延时，支撑大规模并行计算。
• 模型上线与运营：需支持模型快速迭代与高效部署，存储系统需具备高稳定性与灵活性。

典型解决方案：京东云云海分布式存储系统

产品特点

• 全自研统一引擎：支持块存储、对象存储、分布式文件存储等多种存储类型。
• 高性能：采用全追加写模型，融合RDMA网络，实现接近本地NVMe磁盘的I/O性能。
• 高兼容性：兼容主流国产软硬件平台，支持POSIX、HDFS、S3等多协议。
• 低成本：提供低冗余EC存储、支持TLC/QLC SSD，降低TCO（总拥有成本）。
• 灵活交付：支持纯软授权、软硬一体机等多种交付方式，避免软硬件绑定。

客户案例

案例一：某国有大行

• 问题：原有存储系统无法满足大模型训练的高吞吐、高并发需求，数据流动效率低。
• 解决方案：基于云海构建统一存储平台，实现数据高效流动与存储。
• 效果：
  • 提升大模型训练效率。
  • 降低存储成本。
  • 实现数据系统、AI平台与大模型应用之间的高效协同。

案例二：某券商

• 问题：传统存储架构存在资源利用率低、缺乏持久化存储方案、性能不足、架构不灵活等问题。
• 解决方案：基于云海构建统一云原生存储架构，实现存算分离与多协议兼容。
• 效果：
  • 支持“小微化、高频化”业务模式。
  • 提升数据处理与存储效率。
  • 实现低成本与高性能的平衡。

金融机构应统筹规划推动大模型先进算力建设

• 存力建设需与计算力、网络协同规划，避免因存力短板导致大模型落地受阻。
• 金融机构应重视存储系统与业务系统的兼容性、稳定性与扩展性。
• 推动信创进程，实现核心技术自主可控，同时优化成本结构，提高资源利用率。

结论

在大模型商业化落地进程中，先进存力是不可或缺的关键基础设施。金融行业作为大模型应用的先锋，需在可用、可信、可控三方面构建高效的存力系统。京东云云海分布式存储系统凭借其高性能、强兼容性、低成本和灵活交付模式，成为金融机构大模型存力建设的典型解决方案，助力其在大模型时代实现技术突破与业务创新。