【OpenAI_剑桥大学】2024算力与人工智能治理研究报告_104页_7mb

计算能力在人工智能治理中的作用

人工智能（AI）的发展依赖于计算能力（Compute），而计算治理已成为AI治理的重要工具。以下是该论文的主要观点总结：

1. 引言与摘要

计算能力是AI开发和部署的核心输入，可被用于监督AI能力、分配资源和执行规则。当前，政府和公司已开始通过投资、补贴、出口管制和报告机制来干预计算资源的使用。计算治理具有独特的潜力，但也存在隐私、经济和权力集中的风险。

2. 为什么计算治理值得考虑

• 重要性：计算能力是前沿AI模型开发的关键驱动力，其需求呈指数级增长。
• 可行性：计算具有可检测性、可排除性、可量化性和供应链集中性，使其成为治理工具的理想目标。
  • 检测性：AI超级计算机消耗大量电力和资源，易于定位。
  • 可排除性：计算资源可以被限制性分配。
  • 可量化性：计算性能易于衡量，便于监管。
  • 供应链集中性：AI芯片生产集中在少数公司和小部分步骤中，便于治理。

3. 计算可用于增强三大AI治理能力

• 可见性：通过监控计算使用情况，提高对AI开发和部署的监管能t力。
• 分配：通过改变计算资源的分配，引导AI开发走向有益应用。
• 执行：通过技术手段限制或停止有害的AI活动。

4. 计算治理的风险与缓解措施

• 风险：可能侵犯隐私、中央化权力、产生经济影响、限制技术崛起、鼓励规避措施。
• 缓解措施：
  • 限制范围至AI芯片。
  • 实施隐私保护和加密技术。
  • 仅对严重风险进行ex ante干预。
  • 定期审查治理机制。
  • 包含实质性和程序性保障措施。

5. 结论

计算治理可以有效增加AI治理的可见性、资源分配和执行能力，但需在实施过程中注意范围限制和安全保障。否则，它可能带来隐私侵犯、权力集中或经济影响的风险。