Belfer_Center-2017年人工智能与国家安全报告（英文）-2017.7-132页-1mb

总结：人工智能与国家安全

核心内容

本报告探讨了人工智能（AI）对国家安全的潜在影响，并提出了政策建议以应对AI带来的机遇与挑战。作者Greg Allen和Taniel Chan基于对四类历史上的颠覆性军事技术（核技术、航空航天技术、网络与网络安全技术、生物技术）的分析，总结出AI可能带来的重大变革，并建议美国政府采取系统性策略来管理AI技术的发展。

主要观点

1. AI技术的快速发展

   • 近五年来，AI技术取得了远超预期的进展，尤其是在机器学习领域。
   • 私营部门和学术界是AI研究的主要推动者，其资金投入远超美国政府。

2. AI对国家安全的多方面影响

   • 军事优势：AI将增强自动化能力，使现有军事技术更易获得，同时可能创造新的军事能力。
   • 信息优势：AI将极大提升数据收集、分析和生成的能力，但也可能使信息伪造变得更容易，威胁机构间的信任基础。
   • 经济优势：AI可能引发新的工业革命，改变资本与劳动力的关系，影响国家的经济实力。

3. 历史经验与教训

   • 历史上，颠覆性技术（如核武器、飞机、计算机、生物技术）均导致国家安全政策的重大调整。
   • 政府需要在促进技术创新与控制风险之间取得平衡。

4. 政策建议

   • 保持美国在AI技术上的领导地位。
   • 支持AI的和平与商业应用。
   • 管理AI带来的灾难性风险。

关键信息

AI技术的潜力

• AI技术可能在未来十年内对军事、信息和经济领域产生深远影响。
• 与核武器、飞机、计算机和生物技术一样，AI可能成为颠覆性军事技术。
• AI技术将使战争更加自动化，同时可能使非国家行为体获得强大的军事能力。

历史案例分析

• 核技术：美国从积极研发转向自愿限制，以应对技术扩散带来的风险。
• 航空航天技术：通过技术投资，美国成功影响了技术发展的平衡。
• 网络与网络安全技术：技术成本低，使得小国和非国家行为体也能有效利用。
• 生物技术：技术的复杂性和成本降低影响了国家安全战略。

政策建议

• 目标一：保持美国技术领导地位

  • 推荐国防部开展AI相关的战争推演，以识别潜在的军事创新。
  • 资助长期战略分析，评估AI技术及其影响。
  • 优先投资能带来可持续优势并减少关键风险的AI研发领域。
  • 投资“反AI”能力，包括进攻与防御方面。

• 目标二：支持AI的和平与商业使用

  • 增加DARPA、IARPA、海军研究办公室和国家科学基金会对基础AI研究的资助。
  • 发布关于双重用途AI能力的请求信息（RFI）。
  • 增加In-Q-Tel的资源，促进国家安全界与商业AI产业的合作。

• 目标三：管理灾难性风险

  • 研究哪些AI应用应通过条约加以限制。
  • 建立专门的AI安全组织。
  • 资助AI系统的安全机制研究。
  • 探索对抗AI生成伪造的手段。

结论

AI技术的发展将对国家安全产生深远影响，包括军事、信息和经济领域。美国需要采取系统性政策，以保持技术领导地位、促进和平使用并管理潜在风险。历史经验表明，政府在管理颠覆性技术时，应注重技术安全、促进创新并平衡不同利益相关方的需求。