20260608-海通国际-Anthropic发文呼吁全球AI踩下刹车_但算力投入仍在加速_3页_266kb

文档总结：Anthropic呼吁全球AI踩下刹车，但算力投入仍在加速

核心内容

Anthropic发布《When AI builds itself》研究报告，揭示其内部AI辅助开发的进展，并提出AI可能实现递归自我改进（RSI），从而加速自身发展。报告指出，AI在代码生成和研究执行方面已显著提升效率，但同时也强调了AI发展可能带来的风险与不确定性。尽管Anthropic呼吁建立全球协调机制以减缓前沿AI的开发速度，但报告也指出，全球算力投入仍在加速，AI发展已难以停下。

主要观点

• AI辅助开发加速：截至2026年5月，超过80%的代码由Claude生成，工程师产出同比提升8倍。
• 研究效率提升：Claude在代码优化测试中实现约52倍加速，远超人类研究员的平均水平。
• AI自我改进的可能：AI系统可能发展到能够自行构建和训练下一代模型，其发展速度将取决于算力和算法效率。
• 全球协调机制的挑战：Anthropic认为需要建立全球可验证的减速或暂停机制，但实际操作中面临诸多困难，包括隐藏训练、缺乏互信等。
• AI发展不可逆转：报告指出，AI的发展如“出膛的子弹”，无法单方面减速，反而可能让竞争对手拉开差距。

关键信息

代码产出增长

• 2026年第二季度，每位工程师每天合并的代码量是2024年的8倍。
• 代码生成由AI主导，人类工程师的参与度显著下降。
• 代码产出增长曲线仍在上升，未出现拐点。

研究执行效率

• 在标准化测试中，Claude Mythos Preview实现约52倍加速，而人类研究员通常只能达到4倍。
• 2026年4月，首个端到端独立完成AI安全研究的AI Agent案例中，AI工作800小时，缩小了97%的性能差距，但结果未能迁移至生产规模模型。

未来三种发展路径

1. 情景一：增长放缓，能力渗透

   • AI发展进入S曲线的后半段，增长放缓，但能力逐步渗透到各行业。
   • 100人公司可能达到1,000人公司的产出水平。
   • 但此情景概率较低，因当前增长曲线尚未出现拐点。

2. 情景二：效率持续复合提升

   • AI大幅接管开发工作，人类仍决定研究方向。
   • 每位员工产出倍数持续上升，100人公司可完成1万甚至10万人的工作量。
   • 但阿姆达尔定律限制整体加速，瓶颈转移至其他环节（如人工审查）。

3. 情景三：AI实现递归自我改进

   • AI能够自主设计、训练下一代模型，发展速度仅受算力和算法效率限制。
   • 人类角色大幅缩减，仅负责监督和验证。
   • 对齐问题成为最大不确定性：模型可能自我优化，也可能继承并放大偏差。

图表说明

• Fig.1：展示2021至2026年各季度每位工程师的代码产出倍数，显示2026年Q2代码产出增长显著，达到8倍。
• Fig.2：描绘AI从早期聊天机器人到自主智能体的发展路径，最终实现闭环系统。

风险提示

1. AI需求不及预期
2. 地缘政治干扰供应链
3. AI数据中心建造放缓

作者与免责声明

• 本报告分析师：姚书桥、吴叡霖
• 免责声明：
  • 本内容仅为参考，不构成投资建议或合约成立。
  • 信息可能因市场变化或其他因素失效，不保证其准确性与完整性。
  • 报告内容可能无法完整表达原研究报告的观点，完整报告请参见海通国际研究网站。
  • 投资涉及风险，需自行评估。

总结

Anthropic的研究报告揭示了AI在开发和研究中的快速进步，并提出了未来三种发展路径。尽管呼吁全球协调机制以减缓AI发展，但报告也指出，AI的自我改进能力可能使这一目标难以实现。与其期待全球减速，不如持续跟踪AI在算力、模型迭代和Agent落地方面的加速发展。