斯德哥尔摩国际和平研究所-Autonomous-Weapon-Systems-and-International-Humanitarian-Law--Identifying-Limits-and-the-Required-Type-and-Degree-of-Human–Machine-Interaction_72页_689kb

总结：自主武器系统与国际人道法

核心内容

本报告由斯德哥尔摩国际和平研究所（SIPRI）发布，旨在分析自主武器系统（AWS）在国际人道法（IHL）框架下的适用性与限制。报告指出，IHL已经对AWS的开发和使用提出了若干限制，但关于AWS是否符合IHL的具体标准仍存在争议。核心内容围绕人机交互的类型和程度展开，探讨了IHL如何适用于自主武器系统的开发和使用。

主要观点

1. IHL对AWS的适用性

• IHL适用于所有武器系统，包括AWS。
• AWS的使用必须遵守IHL中的核心原则，如区分原则、比例原则和预防原则。
• 目前IHL未提供关于人机交互的统一标准，因此需要进一步澄清和讨论。

2. 人机交互的必要性

• 为确保AWS符合IHL，必须满足三个条件：
  • 能够可靠预测AWS的使用是否违反IHL。
  • 能够在操作中遵循IHL规则。
  • 能够追溯AWS的使用行为至具体的人或国家。
• 人机交互的类型和程度是IHL合规的关键因素，涉及控制、判断、责任归属等方面。

3. IHL的四个维度

• 个人维度：谁需要遵守IHL？责任如何分配？
• 物质维度：哪些武器、手段和方法的使用受到IHL限制？机器是否可以执行法律判断？
• 时间维度：AWS在哪些时间节点上需要遵守IHL？操作与终止之间的时间间隔有何限制？
• 空间维度：AWS在哪些地点和环境中可被使用？环境特征如何影响其法律适用？

4. 法律与伦理考量

• IHL是否仅基于效果进行判断，还是需要人类的参与与判断？
• 人类是否应参与所有关键决策，包括目标选择、攻击时机、方式等？
• 需要明确AWS使用中人类与机器的责任划分，以确保问责机制的有效性。

关键信息

1. AWS的定义

• 尽管没有国际统一定义，但本报告采用**“自主武器系统”（AWS）的广义定义，即在激活后能够识别、选择目标并施加武力**，而无需人类干预。
• “致命自主武器系统”（LAWS）是AWS的一个子集，但报告认为“致命性”是使用结果，而非设计特征。

2. 法律框架与规范

• IHL已包含对某些武器、手段和方法的限制和禁止，如禁止使用不分皂白的武器、禁止过度伤害等（见附录1.1）。
• AWS的使用可能涉及法律审查和法律建议，以确保其符合IHL。
• 国家责任和个人刑事责任是IHL适用的重要方面，需明确AWS使用中的责任归属。

3. 争议与挑战

• 关于AWS是否需要人类参与，各国和专家存在不同观点。部分认为应保留人类控制，另一部分则认为只要结果合法即可。
• 由于AWS的自主性，其使用可能引发不可预见性问题，这对IHL的适用性构成挑战。

4. 推荐与建议

• 深化讨论：各国应进一步明确IHL对AWS的适用要求。
• 共享经验：各国应交流在AWS开发与使用中如何确保IHL合规的实践经验。
• 加强伦理分析：各国应考虑AWS使用中人类与机器的交互是否符合伦理标准，是否应保留人类的决策权与责任。

附录内容

• 附录A：列出了一系列关于AWS与IHL合规的关键法律问题，作为未来讨论的参考。

结论

AWS的开发与使用不能脱离IHL框架，但目前IHL尚未提供明确的指导。为确保AWS的合法性和人道性，各国需要在法律、伦理和实践层面进一步探讨人机交互的必要性与具体形式。SIPRI建议通过系统化的法律框架和规范，明确AWS使用中的责任归属与操作限制，以促进全球范围内对AWS的治理与监管。