推理与_Agentic_AI_浪潮下_CPU_重回_AI_基础设施核心中枢_36页_4mb
报告摘要
推理与 Agentic AI 浪潮下,CPU 重回 AI 基础设施核心中枢
核心内容
随着 AI 从训练阶段进入推理与 Agentic AI 阶段,AI 基础设施的竞争焦点从 GPU 转向 CPU-GPU 异构协同。CPU 不再是辅助组件,而是 AI 系统的核心执行中枢,负责任务调度、数据处理、KV Cache 管理、工具调用和多智能体协作等关键功能。这一转变不仅带来 CPU 需求的结构性增长,也推动 CPU 产业链迎来新的投资机会。
主要观点
- CPU 与 GPU 的角色分工:GPU 擅长大规模并行计算,如矩阵运算和 Attention 计算;CPU 更适合处理复杂逻辑判断、低延迟响应、任务调度与系统管理。在推理和 Agentic AI 场景下,CPU 被视为“调度中心”和“执行中枢”。
- CPU 需求结构性拐点:随着 AI 应用从模型训练转向推理与 Agent 执行,CPU 配比从训练阶段的 1:8 提升至推理阶段的 1:3~1:4,甚至接近 1:2。CPU 的负载显著增加,成为影响 AI 系统吞吐与稳定性的关键因素。
- 异构协同成为趋势:AI 基础设施正在从“GPU 中心化”转向“CPU-GPU 协同架构”。CPU 与 GPU 的协同优化成为提升系统效率的关键,推动整个产业链价值重估。
- CPU 在 Agentic AI 中的作用:Agentic AI 需要 CPU 执行任务规划、环境感知、工具调用、工作流编排、状态维护与异常处理等复杂逻辑任务,使得 CPU 在 AI 系统中地位进一步提升。
- 国产 CPU 的发展机遇:随着 AI 基础设施国产化进程加速,国内 CPU 厂商如龙芯中科、海光信息、飞腾、鲲鹏等正在加速布局,通过自主指令集、RISC-V 生态和国产 EDA/IP 支持,逐步实现 AI 算力市场的突破。
关键信息
- CPU 与 GPU 的配比变化:训练阶段 CPU:GPU 比例为 1:8,推理阶段提升至 1:3~1:4,Agentic AI 阶段接近 1:2。
- AI 服务器配置:当前主流 AI 服务器配置中,CPU 与 GPU 的数量配比趋于平衡,如 NVIDIA NVL72 配置中,CPU 与 GPU 的比例为 1:2。
- CPU 在 AI 系统中的新角色:CPU 不仅负责数据处理和任务调度,还承担系统控制、权限验证、异常恢复、沙箱执行等职责,推动 AI 系统向“完整计算机系统”演进。
- CPU 需求结构性增长:2026 年全球 CPU 市场规模预计达到 1255.8 亿美元,中国市场有望从 2300 亿元增长至 2600 亿元。
- CPU 产业链机会:CPU 产业链从上游材料设备国产化到中游芯片设计、封装测试,再到下游服务器、AI 加速和边缘场景,形成完整的投资链条。
投资建议
- 推荐标的:国产 CPU(龙芯中科、中国长城、禾盛新材)、服务器(中科曙光、浪潮信息)、虚拟机(深信服)、云厂商(网宿科技)。
- 相关标的:海光信息、兆芯集成、华勤技术。
风险提示
- AI 智能体落地不及预期。
- AI 商业化进展不及预期。
- 行业竞争加剧及份额流失。
- 资本开支周期波动。
结构性机遇
- 异构系统优化:AI 产业进入系统级竞争时代,推动 CPU 与 GPU、内存、网络、软件的协同优化。
- 新型 CPU 架构:更多核心、高带宽缓存、CXL 互联和共享内存架构成为 CPU 架构发展的新方向。
- 国产 CPU 生态:国内 CPU 厂商正通过自主指令集、RISC-V 生态和国产 EDA/IP 支持,逐步打破国际垄断,实现 AI 算力市场的突破。
未来趋势
- AI 基础设施向“超级操作系统”演进:CPU 与 GPU、内存、网络、软件栈之间的协同效率成为决定 AI 系统性能的关键。
- CPU 作为 AI 系统的核心中枢:AI 系统越来越像“完整计算机系统”,CPU 成为决定系统效率与扩展能力的核心组件。
- AI 去中心化与软件定义:随着 AI 产业逐步从“NVIDIA GPU 绝对中心化”转向“CPU-GPU 协同架构”,未来可能走向类似“去 IOE”的软件定义基础设施路线。
结论
在推理与 Agentic AI 浪潮下,CPU 重回 AI 基础设施的核心中枢,推动 AI 系统从“单一算力”向“异构协同”演进。这一趋势不仅带来 CPU 需求的结构性增长,也推动国产 CPU 产业链迎来新的发展机遇。
展开完整摘要
试读结束,高清完整版pdf/doc/ppt,请点下载