2025-06-02-兰德-核历史对人工智能治理的启示（英）_42页_453kb

报告核心观点总结

核心发现

AI治理面临的挑战与核武器历史教训相似，但存在关键差异。核非扩散体系成功基于战略稳定、大国共识，而AI治理尚缺乏类似共识机制、透明风险认知及治理框架。

主要挑战说明

1. 风险认知差异

• 分歧显著
  AI是否带来类核武器级风险存在严重分歧。技术乐观者认为可控制性极高，而谨慎派指出潜在生物武器、超级智能失控论，加剧社会撕裂。
• 缺乏共识
  正如核裂变早期专家争论，AI风险论据多样且未经严格验证，难建立统一治理目标。

2. 利益相关方复杂性

• 参与者数量激增
  全球数十国可获取AI技术，民用AI普及速度远超核扩散，治理需应对更分散的主权实体与私营企业双重力量。
• 双重逻辑冲突
  与核武器由国家主导不同，AI研发集中于私营企业，其逐利特性导致技术扩散加速，治理机制需协调政府与市场的博弈关系。

3. 机制设计困难

• 治理工具适用性存疑
  尽管“算力限制”被类比为核材料管控，但效率提升可能实际降低所需算力，传统控制手段可能失效。
• 执行可行性待验证
  核监督依赖物理延阻（如材料追踪），而AI可通过分布式计算隐蔽规避，现行出口管制等工具在半导体供应链面前效果有限。
• 权力分配难题
  谁将主导AI监管机构？国家、国际组织、私人公司多方角力，缺乏可接受的权力分配方案。

历史经验启示

核治理成功要素

• 清晰风险认知：核裂变威胁通过广岛事件直接显现
• 大国战略协同：美苏虽存在竞争，但共享“相互威慑”逻辑推动非扩散框架形成
• 制度演进路径：20年制度孕育期与逐层推进的可行性设计

AI治理现实困阻

• 战略平衡未成：AI尚未形成类似“相互威慑”的全球稳定机制
• 透明度缺失：不同于核材料供应链可控性，AI开发高度公开
• 规则滞后风险：技术迭代速度快于政策制定，初始规则可能滞后

结论与建议

1. 优先短周期治理：聚焦AI在核政策、网络安全等交叉领域的协同治理
2. 聚合多元共识：政府、学界、产业需构建基础风险认知框架
3. 分层次机制设计：发达经济体可牵头建立区域性AI治理框架，通过示范效应推动全球合作