斯德哥尔摩国际和平研究所-Responsible-Military-Use-of-Artificial-Intelligence--Can-the-European-Union-Lead-the-Way-in-Developing-Best-Practice-_36页_783kb

总结：负责任的军事人工智能使用：欧盟能否引领最佳实践？

核心内容

本报告探讨了欧盟及其成员国在人工智能（AI）军事应用方面发展共同原则和标准的可行性与必要性。报告指出，尽管欧盟在军备和军控领域的权限有限，但其在国际舞台上推动负责任AI使用具有重要政治、战略和经济利益。同时，报告提出了具体的建议，以促进欧盟内部在法律合规、伦理和AI安全方面的深入讨论。

主要观点

1. 欧盟的政治、战略和经济利益

   • 欧盟可以通过制定负责任的AI军事使用原则，增强其在全球AI治理讨论中的影响力，同时确保军事AI的发展符合其共享价值观。
   • 这有助于提升欧盟武装力量的互操作性，并推动欧洲在军事研发方面的合作。
   • 经济上，欧盟成员国需要协同合作，以应对与美国和中国在AI军事应用上的技术竞争。

2. 已有基础与未来方向

   • 欧盟已在多个层面开展相关工作，包括欧洲防务局（EDA）、欧洲议会和欧盟委员会的倡议。
   • EDA已开始在成员国之间开展关于AI能力发展的结构性对话，这为欧盟形成统一立场提供了基础。
   • 欧盟委员会在民用AI治理方面的工作经验，可为军事AI治理提供借鉴。

3. 欧盟的领导潜力

   • 欧盟有潜力成为负责任AI军事使用方面的全球典范，尤其在法律、伦理和技术安全方面。
   • 报告建议欧盟通过三类专家讨论，推进负责任AI军事使用的发展：法律合规、伦理原则与AI安全标准。

关键信息

• 法律合规：需确保AI在军事应用中符合国际人道法（IHL），并开展法律审查，以评估其对战争手段和方法的影响。
• 伦理原则：应制定共享的伦理准则，以确保AI的军事使用以人为本，并尊重国际法。
• 技术安全：推动AI系统的透明性、可解释性和可靠性，同时建立欧洲测试与评估框架。
• 数据共享：通过欧盟层面的数据整合机制，支持AI军事能力的协同开发。
• 机构合作：建议利用欧盟理事会的预备机构（如COJUR、CONOP、CODUN和EUMCWG）促进成员国间的协调与共识。

主要建议

1. 提高透明度

   • 欧盟成员国应更公开透明地参与有关AI军事应用的国家与欧盟内部讨论，并公开其战略文件和关键内容。

2. 建立专家小组

   • 成立一个临时专家小组，专门讨论AI高阶专家小组（AI HLEG）建议在军事领域的适用性，并提出欧洲原则和指南。

3. 加强与学术界和产业界合作

   • 利用欧洲AI联盟，促进公众、企业和社会组织对军事AI治理问题的参与。

4. 资助研究项目

   • 支持“伦理设计”和相关方法论的研究，以确保AI在军事应用中的伦理考量贯穿整个技术生命周期。

5. 利用现有机制

   • 建议在欧盟理事会预备机构的框架下，组织专门会议讨论AI在军事中的法律解释与应用、伦理原则与安全指南，以及欧盟在致命自主武器系统（LAWS）辩论中的立场。

附录与支持

• 报告基于作者的桌面研究、背景访谈和SIPRI组织的线上研讨会内容，汇集了来自欧盟和其他国际组织（如北约、联合国裁军事务办事处）的学者与实践者观点。
• 欧盟已在多个项目中应用AI，如EDA和PESCO的联合项目，以及新设立的欧洲防务基金（EDF）。

机构与作者信息

• 作者：Vincent Boulanin（法国）、Netta Goussac（澳大利亚）、Laura Bruun（丹麦）、Luke Richards（英国）
• 机构：斯德哥尔摩国际和平研究所以及欧盟相关机构
• 资助方：德国联邦外交部

结论

报告认为，欧盟有能力在负责任的军事AI使用方面发挥领导作用，通过加强内部协调、推动法律与伦理讨论、优化技术安全标准，欧盟可成为全球治理AI军事应用的典范。