SIPRI-武器系统自主性的局限性：确定人类控制的实际要素（英文）-2020.6-53页_1mb

总结：武器系统自主性限制中的人类控制要素

核心内容

本报告由斯德哥尔摩国际和平研究研究所（SIPRI）与国际红十字会（ICRC）联合发布，探讨了在自主武器系统（AWS）中人类控制的必要性及其在法律、伦理和操作层面的实现方式。报告指出，随着技术的发展，AWS的使用引发了国际社会对人类在使用武力决策中角色的重新审视，强调必须确保人类在关键决策中保持控制，以符合国际人道法（IHL）的要求，并防止对平民造成不必要的伤害。

主要观点

1. 人类控制的重要性
   自主武器系统通过环境触发来执行任务，这意味着使用者无法知道攻击的具体目标、时间和地点，从而增加了对平民的潜在风险和对国际人道法的遵守难度。因此，人类控制成为确保AWS合法、道德和有效使用的核心要素。

2. 法律视角

   • 国际人道法（IHL）要求在使用武器系统时遵守区分、比例性和攻击谨慎等原则。
   • 人类在这些规则的适用中承担主要责任，不能将责任转移给机器。
   • 自主性可能会削弱人类在执行这些规则时的能力，因此必须通过控制措施来确保法律合规性。

3. 伦理视角

   • 伦理上要求人类在致命性自主武器系统的使用中保持决策权，特别是在涉及生命与死亡的决策时。
   • 伦理考量可能要求额外的限制，特别是在设计或使用针对人员的AWS时。

4. 操作视角

   • 人类控制应体现在武器系统的使用参数、环境控制和人机交互中。
   • 有效的控制机制可以减少AWS使用中的不可预测性，从而降低对平民的伤害风险。

关键信息

自主武器系统的挑战

• “数量”挑战：区分、比例性和攻击谨慎等规则要求基于情境的价值判断，而非简单的数据或技术指标。
• 技术限制：尽管技术工具可以辅助决策，但它们不能替代人类对比例性等规则的判断。
• 不确定性：AWS的使用可能带来不可预测的后果，特别是对平民的潜在伤害，这引发了对国际人道法适用性的担忧。

人类控制的三种类型

1. 武器系统使用参数的控制
   包括限制攻击目标类型、任务范围、时间和空间范围，以及设置失效机制和停用选项。

2. 环境控制
   通过控制AWS使用环境（如确保平民不在场），以减少对非战斗人员的误伤。

3. 人机交互控制
   提供监督和干预机制，确保用户能够随时介入AWS的操作。

国际共识与分歧

• 尽管各国在是否需要对AWS进行额外监管方面存在分歧，但普遍认同人类在使用武力时必须保留控制权。
• 一些国家和组织提出了“有意义的人类控制”、“适当的人类判断”等概念，但对如何在实际操作中实现这些控制仍有不同意见。

推荐措施

1. 明确人类控制的实践要求
   各国应聚焦于如何在实际操作中实现人类控制，以确保符合国际人道法和伦理标准。

2. 指导未来政策制定
   人类控制的措施应作为制定国际标准或规则的基础，确保其适用性和前瞻性。

3. 澄清现有法律框架
   各国应明确哪些IHL规则已对AWS的开发和使用设限，哪些需要新的规则或标准。

4. 基于现有实践制定新规则
   新的规则、标准和最佳实践应建立在现有法律框架之上，并参考实际操作经验。

5. 将人类控制纳入武器系统研发与采购流程
   在武器系统的研发、测试和采购过程中，应考虑人类控制的标准和要求，以确保其符合伦理和法律规范。

结构概述

• 引言：介绍了AWS引发的国际讨论背景，以及本报告的目的。
• 人类控制的法律、伦理与操作视角：分析了AWS在不同层面带来的挑战，提出了人类控制的三种类型。
• 操作化人类控制：提供了实现人类控制的具体措施和实践指导。
• 关键发现与建议：总结了报告的核心观点，并提出了五项政策建议。

结论

本报告强调了在自主武器系统中保留和行使人类控制的必要性，认为这是确保国际人道法有效实施、避免伦理争议和提升军事操作效果的关键。通过明确人类控制的类型和程度，各国可以制定出既符合法律、伦理又具备操作性的国际标准和政策。