20260321-国金证券-计算机行业研究_算力再次加速的底层逻辑_8页_1mb

报告摘要

人工智能正在经历从基于Prompt的工具到自主运行的长Agent的范式跃迁。这一转变不仅提升了AI的交互能力，还推动了算力需求的非线性增长。长Agent具备推理、规划和持续运行的能力，能够处理复杂的任务流程，从而对计算资源提出了更高的要求。

交互范式转变
AI系统已从单次问答工具演进为能够推理、规划和行动的自主Agent，这种变化已被OpenRouter平台数据和OpenClaw项目的快速崛起所印证。长Agent的出现标志着AI从被动响应转向主动执行。
Token消耗显著增加
Agent任务对Token的消耗远高于传统问答场景，单Agent消耗约为对话模式的4倍，多Agent系统则高达15倍。这种消耗的增加使得算力需求呈现指数级增长。
大模型自注意力机制的二次方成本
大模型的自注意力机制计算成本与上下文长度呈二次方增长，这导致模型处理长上下文时的算力需求大幅上升。
内存带宽成为瓶颈
推理过程分为Prefill和Decode两个阶段，Decode阶段受制于内存带宽，随着上下文长度的增加，KV Cache的膨胀进一步加剧了这一瓶颈，从而降低了GPU利用率。
多Agent协作引入通信成本
多Agent系统的兴起引入了新的通信维度，Google DeepMind的研究指出，Agent间的消息传递会产生“协调税”，通信成本随Agent数量非线性增长。
杰文斯悖论放大算力需求
随着AI效率提升，其使用量反而呈指数级增长，最终导致算力总需求上升。这种趋势表明，算力基建的扩张是结构性的必然。

Agent运行时长增加 $\rightarrow$ KV Cache线性膨胀 $\rightarrow$ Decode阶段吞吐下降 $\rightarrow$ 单位Token成本上升 $\rightarrow$ 多Agent协作进一步放大需求 $\rightarrow$ 杰文斯悖论推动总消耗增长 $\rightarrow$ 宏观算力资本开支上升。