计算机行业动态报告_ARM产业链为何是GPU与CPU协同关键受益者_14页_1mb

ARM 产业链为何是 GPU 与 CPU 协同关键受益者

核心内容概述

AI 基础设施正经历从“堆硬件”向“系统优化”的结构性转变，核心竞争点从峰值算力转向单位 Token 成本、并发吞吐和功耗等效率指标。MoE（Mixture-of-Experts）稀疏化趋势和 Agentic AI 时代的到来，推动了算力需求从单卡性能竞争转向系统级优化，其中 CPU 与 GPU 的协同成为关键。ARM 架构凭借其性能与生态优势，正成为这一趋势下的重要受益者。

主要观点

1. AI 基础设施转向推理效率竞争

• 单位 Token 成本成为衡量 AI 算力效率的核心指标。
• 数据中心的核心产出从原始算力转变为以 Token 为单位的智能交付。
• MoE 技术推动算力需求从单卡转向集群级系统能力，强调通信优化、分布式调度与高速互联的重要性。

2. MoE 稀疏化趋势下的计算效率提升

• MoE 模型参数规模扩大，支持长上下文，导致单卡难以承载完整模型训练与推理。
• 专家并行机制带来大量 All-to-All 通信，成为影响 GPU 利用率的关键因素。
• 去中心化 MoE 架构具备利用异构算力的潜力，但受限于通信带宽和负载均衡问题。

3. Agentic AI 时代 CPU 价值重估

• 传统“CPU 搬运、GPU 推理”模式存在协同瓶颈。
• CPU 在提升并发吞吐、降低单位 Token 成本和优化能耗结构中发挥关键作用。
• 英伟达 Vera 芯片作为新一代专用 CPU，专为 AI 工厂场景设计，支持与 GPU 的高效协同。

4. ARM CPU 在 AI 时代的竞争优势

• ARM 架构具备性能与生态的系统性壁垒，覆盖云、边、端全场景。
• 相较 x86 架构，ARM 在每瓦性能、TCO（总拥有成本）和线程数量方面更具优势。
• ARM AGI CPU 专为大规模并行、高负载场景设计，已获得 Meta、OpenAI 等头部客户支持。

关键信息

1. MoE 技术对算力基础设施的影响

• MoE 需要多种并行策略（专家并行、数据并行、流水线并行、张量并行）。
• 高速 RDMA 网络和 GPU 集群成为部署 MoE 模型的关键。
• 去中心化 MoE 架构面临通信效率瓶颈，限制有效算力输出。

2. 单位 Token 成本的评估

• 每百万 Token 成本是衡量 AI 基础设施效率的重要指标。
• NVIDIA Blackwell 平台在每百万 Token 成本上仅为 Hopper 的 1/35，凸显效率优势。

3. CPU 在 Agentic AI 中的关键作用

• CPU 与 GPU 协同失效导致推理效率低下。
• CPU 可承担长尾推理任务、提升调度效率、优化能耗结构。
• NVLink-C2C 技术实现 CPU 与 GPU 显存统一地址空间，支撑 KV 缓存卸载等技术。

4. ARM 架构的优势

• ARM 全球开发者规模超 2200 万，生态成熟。
• ARM CPU 具备高能效、高线程数、高单线程性能。
• ARM AGI CPU 针对高密度机架、大规模并行和持续高负载场景进行优化，已获头部客户支持。

5. 投资建议

• 重点关注：国产算力企业（如浪潮信息、寒武纪）与 CPU 企业（如海光信息、中国长城、龙芯中科、禾盛新材、广合科技）。
• 风险提示：
  • MoE 工程化落地不及预期；
  • AI 推理需求增长不及预期；
  • 行业竞争加剧。

结构性总结

1. AI 基础设施的演进方向

• 从算力竞争转向效率竞争：单位 Token 成本、并发吞吐、功耗成为核心评估指标。
• 从单卡性能转向系统级优化：MoE 技术推动算力需求从单卡走向集群，强调通信与调度能力。
• 从中心化部署转向去中心化架构：利用异构算力资源，但面临通信瓶颈。

2. CPU 在 AI 推理中的关键角色

• 提升系统效率：CPU 可优化调度、降低等待时间、提升吞吐量。
• 降低能耗与成本：高能效 CPU 可在不增加功耗前提下实现更高算力输出。
• 支持复杂推理优化：如 KV 缓存卸载、多模型并行执行等技术。

3. ARM 架构的独特优势

• 全场景覆盖：从数据中心到消费终端，ARM 架构支持 AI 的端到端应用。
• 性能与生态双重壁垒：性能优于同级别 x86，生态迁移成本高，形成持续护城河。
• 与 GPU 深度协同：英伟达 Vera 和 Grace 均基于 Arm 架构，支持高效 CPU-GPU 协同。

4. ARM AGI CPU 的技术亮点

• 高性能、高能效：支持大规模并行和高负载场景，满足未来 AI 代理式计算需求。
• 统一内存与高速互联：NVLink-C2C 实现 CPU 与 GPU 显存统一，提升数据移动效率。
• 多 SKU 适配：提供不同核心数、内存吞吐量等规格，满足多样化部署需求。

5. 行业趋势与投资方向

• 未来趋势：算力基础设施将向系统级效率优化发展，ARM 架构 CPU 是重要受益者。
• 投资建议：关注国产算力与 ARM 架构 CPU 企业，把握 AI 基础设施升级机遇。