2023-11-22-国家信息中心-2023人工智能2.0时代的公共智算服务发展指南_32页_6mb

人工智能2.0时代的公共智算服务发展指南总结

核心内容

人工智能2.0时代，公共智算服务成为推动人工智能技术应用和产业发展的重要基础设施。该服务以云服务方式提供，具备基础性、通用性、公共性等特质，能够有效降低用户获取和使用智算资源的门槛，实现资源的高效利用。智算服务的特征包括云化共享、高效计算、开放兼容、按需服务、稳定安全、绿色低碳和长效运营。

主要观点

• 公共智算服务是AI发展的重要支撑，具有“准公共品”属性，能够实现普惠便捷服务。
• 智算资源的供给模式正从“按指定规格购买资源”向“按任务匹配资源、按资源使用量结算”转变。
• 随着大模型的广泛应用，模型驱动的智算服务成为新的发展趋势。
• 绿色低碳是“双碳”目标下智算服务发展的必然要求，涉及清洁能源使用和节能降耗技术。
• 需要政府与市场协同，构建多元协作、开放兼容的智算服务生态。

关键信息

一、概述

1. 基本概念

• 智算是一种基于人工智能理论、异构计算架构和最优计算策略，实现高并行、高吞吐的先进计算形态。
• 公共智算服务是面向AI技术发展趋势，以云服务方式封装算力、算法、数据等资源，提供普适普惠服务。

2. 主要特征

1. 云化共享：实现资源的多租户共享、弹性调度、云原生技术应用，提升服务效率和用户体验。
2. 高效计算：提供大规模、高并行、高吞吐的计算服务，优化并行计算效率、模型计算效率、网络性能和存储性能。
3. 开放兼容：支持“一云多芯”、“一云多算”，兼容主流深度学习框架和开源模型，促进生态协同。
4. 按需服务：通过标准化封装、任务化供给、物理多节点部署等方式，实现灵活、高效、低成本的服务。
5. 稳定安全：通过云服务SLA、安全工具、容错恢复机制等保障服务的持续性、稳定性和安全性。
6. 绿色低碳：关注清洁能源使用、节能降耗技术、设备生命周期延长，降低碳排放。
7. 长效运营：需科学建设运营方案、合理盈利模式、专业化运营团队，保障服务可持续发展。

二、发展形势

1. 人工智能进入2.0时代，智算迎来快速增长

• AI大模型如ChatGPT和GPT-4推动AI向通用智能发展，带来巨大的算力需求。
• 2025年，我国智能算力预计超过1800EFlops，占总算力比重超过85%。

2. 智算资源呈现准公共品特质，服务需求快速增长

• 标准化、低成本、低门槛成为智算资源发展的必然方向。
• MaaS（模型即服务）模式成为降低AI应用门槛的重要方式。

3. 全球“双碳”进程加快，绿色低碳成为必然要求

• AI大模型训练和运行带来高能耗、高碳排放问题，绿色低碳成为智算服务发展方向。
• 研究数据显示，训练GPT-3消耗1287MWh电力，相当于126个丹麦家庭年耗能。

三、现状和问题

1. 发展现状

• 政策体系逐步健全：国家及地方出台多项政策支持智算发展，涵盖技术、产业、设施等层面。
• 智算服务供给量质齐升：我国算力规模全球第二，智能算力占比快速提升，智算中心建设加速。
• 服务模式创新频出：MaaS、数据治理工具、算力调度平台等推动服务模式多样化。

2. 面临挑战

• 重硬件轻软件：软件和工具研发不足，限制了服务的多样性与易用性。
• 重建设轻服务：缺乏前瞻设计和统一调度机制，导致供需匹配不佳。
• 重投资轻运营：尚未形成可持续的商业模式，资源利用率低。
• 协同难效率低：算力调度、资源共享和生态协同存在瓶颈，影响普惠性。

四、服务框架

1. 服务架构

• 公共智算服务架构包括资源构件化、服务调度智能化、服务供给多元化。
• 通过统一管理、智能调度、按需服务，实现便捷、高效、安全的智算服务。

2. 服务内容

• 算力资源服务：提供高性能网络、多元计算服务、高性能存储、算力调度优化等。
• 算法模型服务：包括基础通用算法模型、算法模型开发工具、模型调用与定制服务。
• 数据资源服务：提供数据集、数据治理工具、数据存储和传输等支持。

3. 服务生态

• 公共智算服务生态由政府、市场、企业、科研机构等共同构建，实现开放兼容、多元协作、互利共赢。
• 政府提供政策引导和资源统筹，市场推动创新和服务优化，企业与科研机构共同参与生态建设。

五、推进策略

1. 需求导向，强化产业赋能应用：围绕AI产业化和产业AI化需求，提供多样化、灵活化的服务。
2. 适度超前，优化部署智算设施：科学布局智算中心，提升算力供给能力，满足未来80%的AI应用场景。
3. 技术先进，提高软硬协同能力：强化多元算力融合、算法模型全生命周期服务、数据治理支持等。
4. 强化运营，培育长效服务生态：构建专业化运营团队，推动产业生态协同发展。
5. 以评促建，提升智算服务水平：制定评价指标体系，从资源供给、平台服务、场景赋能、生态建设、用户体验等方面综合评估。

六、实践案例

1. 北京市：统筹布局突破算力制约

• 通过算力伙伴计划、多云算力调度平台和算力券政策，提升算力资源统筹供给能力。
• 建设北京市人工智能公共算力平台，提供高质量、普惠、开放的算力服务。

2. 杭州市：抓住MaaS模式变革机遇打造模型输出源地

• 打造多元融合算力支撑体系，推进算力普惠化，支持企业应用。
• 建设智能计算产业集群，助力生态发展。

3. 复旦大学智算平台（CFFF）

• 国内高校最大规模异构智算平台，支持大模型训练和科研应用。
• 实现算力高效调度、绿色低碳、资源弹性扩展，提升科研效率。

4. 小鹏汽车：借力打造“扶摇”实现更低成本更强算力

• 与阿里云共建智算中心，提供高性能算力和网络支持，提升自动驾驶模型训练效率。
• 通过弹性共享算力降低训练成本，实现本地+云端协同。

5. 百川智能：强化生态合作打造核心竞争力

• 依托阿里云算力服务，实现低成本高性能算力获取。
• 通过开源社区扩大影响力，推动模型应用和生态共建。