迈向智能世界白皮书2024-计算-华为_19页_16mb
报告摘要
《迈向智能世界白皮书2024》总结
核心内容
本白皮书围绕人工智能(AI)技术及其在数字基础设施中的应用展开,重点分析了AI技术发展对行业的影响、智算集群在支撑大模型发展中的作用、操作系统在AI演进中的创新,以及ARM架构在数字基础设施中逐步成为主流选择的趋势。这些趋势共同推动了智能世界的构建与演进。
主要观点
趋势一:AI成为对行业影响最大的技术,算力是AI发展关键驱动力
- AI技术已进入大模型时代,模型规模、序列长度、多模态等快速发展,AI Agent、RAG、SFT、COT等技术显著改善了AI的准确性和逻辑性,LLM的准确度已达91%以上,基本满足企业使用标准。
- 全球AI应用用户数从2023年6月的1.35亿增长到2024年6月的2.33亿,AI使用费用大幅下降,推理市场价格平均降低10倍以上,逐步满足企业落地的经济性。
- 企业最少一个业务功能采用AI的比例从2023年的55%上升至2024年的72%。Gartner调查显示,59%的CEO认为AI是对其行业影响最大的技术。
- 大模型从LLM发展到MoE、多模态,并与强化学习结合,模型能力由数据驱动转向算力驱动,对算力、网络和存储的需求呈指数级增长。
- 昇腾打造了开放领先的AI基础软硬件平台,成为支撑中国智能化升级的关键算力底座,覆盖“云、边、端”全场景,并通过CANN和MindSpore等技术实现高效算力调用。
- 昇腾计算生态已培养3万多原生贡献者,孵化了40多个原生大模型和50多个大模型应用。
趋势二:Scaling Law延续,智算集群突破算力瓶颈,支撑大模型发展
- 随着大模型参数向十万亿级发展,算力需求呈指数级增长,传统服务器堆叠方式已无法满足需求,智算集群通过算网协同、算存协同等技术实现高效长稳运行。
- 超节点架构通过TB级带宽超高速互联、内存统一编址等能力,突破计算瓶颈,提升集群整体性能。
- 集群级统一运管平台实现跨域故障快速定位与恢复,平均无故障运行时长从几小时提升到几天。
- openEuler作为面向AI演进的开源操作系统,实现了计算、网络、存储的统一管理,提升AI训练和推理性能,成为数智基础设施的重要支撑。
趋势三:操作系统面向AI演进,使能异构算力融合,赋能AI高效运行
- openEuler持续创新,支持异构算力融合,通过低时延调度器、内存语义直访等技术,实现业务负载与资源的动态配比,提升系统整体效率。
- 在AI训练场景中,openEuler通过镜像数据块按需加载、健康监测算法等技术,缩短任务冷启动时间,提升资源利用率。
- 在AI推理场景中,openEuler利用异构融合内存能力,按需分配KV Cache,提高片上内存利用率,缓解容量瓶颈,提升推理性能。
- openEuler已成为中国第一服务器操作系统,2023年中国新增市场份额达36.8%,并全面融入全球开源生态,支持98%的主流开源软件。
趋势四:ARM逐步成为数字基础设施算力主流选择
- ARM算力从端侧延伸至服务器市场,目前在中国市场ARM系服务器(以鲲鹏为主)占比超过15%,成为通用计算领域的新选择。
- 鲲鹏计算产业已构建覆盖基础硬件、基础软件、行业应用、开发套件和工具链的完整生态,拥有5500+合作伙伴和16500+联合解决方案。
- 鲲鹏从“迁移适配”走向“原生开发”,通过DevKit、BoostKit等工具实现一次编码、多平台适配,提升开发效率和应用性能。
- 截至2024年9月,已有200多家头部伙伴实现鲲鹏原生开发,计划到2025年覆盖超过1000家伙伴,全面服务各行业核心场景。
关键信息
- AI大模型技术发展迅速,准确度已达到企业使用标准,用户数增长显著。
- 算力是AI发展的核心驱动力,大模型训练和推理对算力、网络和存储提出了更高要求。
- 昇腾和openEuler构建了高效、可靠的AI基础软硬件平台,支持大模型的开发与运行。
- ARM架构在端侧和服务器市场均展现出强劲的发展势头,鲲鹏生态逐步完善,成为数字基础设施的重要组成部分。
- 鲲鹏原生开发工具链提升了开发效率和应用性能,推动了多技术路线的兼容与统一。
总结
本白皮书描绘了AI技术加速发展、智算集群突破算力瓶颈、操作系统向AI演进、ARM架构成为主流算力选择等四大趋势,展示了中国在智能世界构建中的技术实力与生态优势。通过昇腾、openEuler、鲲鹏等技术平台的持续创新与生态建设,中国正逐步走向智能世界的原生驱动与全面赋能。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载