Sipri-人工智能在军事领域负责任的使用：欧盟能否引领最佳实践的发展？（英文）-2020.11-36页_758kb

总结：负责任的军事人工智能使用——欧盟能否引领最佳实践？

核心内容

本报告探讨了欧盟及其成员国在人工智能（AI）军事使用方面的负责任实践，分析了欧盟在这一领域发挥领导作用的可能性与必要性。报告认为，欧盟应通过法律、伦理和技术安全的视角，推动形成一致的立场和标准，以增强其在全球AI军事治理讨论中的影响力，并维护其共同价值观和利益。

主要观点

1. 欧盟推动负责任AI军事使用的政治、战略与经济利益

   • 欧盟成员国在AI军事使用方面形成共同立场，有助于在全球治理讨论中增强话语权，并确保AI技术发展符合其价值观。
   • 有助于提升欧盟武装部队之间的互操作性，加强军事研究与开发的协作。
   • 促进欧洲军事工业与技术的发展，提高经济竞争力。

2. 已有基础与建议

   • 欧盟已在多个层面开展相关工作，如欧洲防务局（EDA）、欧洲议会及各国的政策研究。
   • 建议欧盟成员国和机构开展三方面的专家讨论：
     • 法律合规：围绕国际人道法（IHL）在AI军事应用中的解释与适用展开法律审查。
     • 伦理考量：制定共享的人本主义AI军事使用原则。
     • 技术安全：建立AI系统的透明度、可解释性和可靠性标准。

3. 机构合作与平台利用

   • 欧盟应利用现有机构如EDA、PESCO、欧洲委员会、欧洲议会及联合国外交事务委员会等，推动深入讨论与协作。
   • 建议通过欧盟委员会的欧洲防务基金（EDF）资助研究项目，探索AI军事系统的安全标准。

4. 欧盟的立场与挑战

   • 欧盟在联合国关于致命自主武器系统（LAWS）的讨论中，已明确强调人类对AI武器系统的控制。
   • 面对美国和中国在AI军事应用上的领先，欧盟需采取积极立场以避免被边缘化，并在国际讨论中发挥更有力的作用。

关键信息

• 法律审查：欧盟成员国应开展对新武器、作战手段和方法的法律审查，以确保AI军事应用符合国际法。
• 伦理原则：需发展一套共享的伦理框架，确保AI在军事中的使用符合人本主义价值观。
• 技术安全：推动AI系统的透明度、可解释性与可靠性，以确保其在军事环境中的安全使用。
• 合作机制：建议通过EDA、PESCO等平台加强成员国间的协作，同时利用欧盟委员会的资源推动技术治理。
• 未来行动：报告提出了多项具体建议，包括公开现有AI军事发展文件、建立专家小组、资助伦理设计研究项目等。

机构与作者信息

• 作者：Vincent Boulanin（法国）、Netta Goussac（澳大利亚）、Laura Bruun（丹麦）、Luke Richards（英国）
• 支持机构：本报告由德国联邦外交部资助，是其“重新思考军备控制”项目的一部分。
• 合作平台：欧盟委员会、欧洲防务局、欧洲议会、欧盟理事会的多个工作组（如COJUR、CONOP、CODUN、EUMCWG）可作为推动讨论的平台。

结论与建议

报告建议欧盟及其成员国采取以下行动：

• 加强透明度与公开讨论：公开国家报告和战略文件，促进内部与外部的透明对话。
• 建立专家小组：成立专门小组，研究如何将欧盟AI高阶专家小组（AI HLEG）的建议应用于军事领域。
• 推动公众参与：利用欧洲AI联盟等平台，促进学术界、工业界和公众对AI军事发展的讨论。
• 资助研究项目：支持围绕AI军事系统的伦理设计、透明度、可追溯性及测试评估方法的研究。

附录信息

• 缩略语：
  • AI：人工智能
  • AI HLEG：人工智能高阶专家小组
  • CCW：特定常规武器公约
  • GGE on LAWS：致命自主武器系统新兴技术政府专家小组
  • IHL：国际人道法
  • LAWS：致命自主武器系统
  • PESCO：永久结构性合作

图表摘要

• 图3.1：欧盟AI政策发展路径
• 图3.2：欧盟成员国对新武器法律审查的现状
• 图3.3：欧盟成员国关于人类控制的声明样本

总体结构

本报告分为以下章节：

• 引言：介绍AI在军事领域的战略意义与欧盟的参与。
• 第二章：分析欧盟推动负责任AI军事使用的原因。
• 第三章：提出如何在欧盟层面推动最佳实践。
• 第四章：总结主要发现与建议。

通过这些内容，报告旨在为欧盟成员国和机构提供切实可行的路径，以在AI军事使用领域形成一致的负责任立场。