2017-人工智能与国家安全_132页-1mb

总结：人工智能与国家安全

核心内容

本报告探讨了人工智能（AI）技术对国家安全的潜在影响，并基于历史上的四类颠覆性军事技术（核技术、航空航天技术、网络技术、生物技术）总结了相关经验教训，提出了针对AI技术的国家政策建议。

主要观点

• AI技术的快速发展：过去五年，AI技术取得了显著进展，远超预期。机器学习是推动这一进展的主要因素，未来AI技术仍将继续快速发展。
• AI对国家安全的影响：AI将对军事、信息和经济三个领域产生深远影响，可能改变国家间的权力平衡。
• 技术的双重用途：AI技术具有军民两用性，政府需在促进和平应用的同时，防范其被用于军事目的的风险。
• 历史经验借鉴：通过分析核、航空、网络和生物技术的发展历程，得出五条经验教训，指导当前AI政策制定。
• 政策建议：提出11项具体建议，以维护美国在AI领域的技术领导地位、支持和平使用AI、并管理潜在的灾难性风险。

关键信息

AI技术的潜力

• AI技术正在迅速发展，尤其是在机器学习领域，其应用范围不断扩大。
• 未来AI技术可能成为与核武器、飞机、计算机和生物技术一样具有颠覆性的国家安全技术。
• AI将推动军事自动化，使非国家行为体也能获得先进的作战能力，如远程精确打击和网络攻击。

对国家安全的三大影响

1. 军事优势：AI将增强军事能力并降低其成本，使更多国家和非国家行为体能够使用先进武器系统。
2. 信息优势：AI将提升数据收集、分析和生成的能力，但也可能被用于制造虚假信息，挑战信任基础。
3. 经济优势：AI可能引发新一轮工业革命，导致劳动力需求下降，并改变资本与劳动力的关系。

历史经验教训

1. 技术变革推动政策变革：AI技术的变革将引发政府政策的重大调整，如早期核武器的发展。
2. 军备竞赛难以避免，但可管理：尽管AI在军事上的应用可能引发军备竞赛，但可以通过政策和管理手段加以控制。
3. 政府需平衡促进与限制商业活动：AI技术具有双重用途，政府需在支持创新的同时，防止其被滥用。
4. 正式组织和资源投入是保障技术安全的关键：政府应设立专门机构并分配足够资源，以确保AI技术的安全发展。
5. 技术改变国家利益：随着AI技术成本和复杂性的下降，美国需主动塑造其技术特征，以保持竞争优势。

政策建议

1. 维护技术领导地位：

   • 建议国防部开展AI相关的战争推演，以识别潜在的军事创新。
   • 建议国防部资助长期战略分析，评估AI技术的影响。
   • 建议国防部优先投资能带来可持续优势并降低关键风险的AI研究领域。
   • 建议加强“反AI”能力，包括进攻和防御方面。

2. 支持和平使用AI：

   • 建议DARPA、IARPA、海军研究办公室和国家科学基金会增加对AI基础研究的资助。
   • 建议国防部发布关于双重用途AI能力的请求信息（RFI）。
   • 建议In-Q-Tel获得更多资源，促进国家安全社区与商业AI行业的合作。

3. 管理灾难性风险：

   • 建议国家安全委员会、国防部和国务院研究应通过条约限制某些AI应用。
   • 建议国防部和情报界设立专门的AI安全组织。
   • 建议DARPA资助AI系统的安全与性能研究。
   • 建议国家标准与技术研究院（NIST）和国家安全局（NSA）研究应对AI伪造技术的方案。

结论

AI技术的快速发展将对国家安全产生深远影响，政府需采取综合性措施，包括技术管理、政策制定和国际合作，以确保其安全、可控和有益的应用。通过借鉴历史经验，美国可以更好地应对AI带来的机遇与挑战，保持其技术领先地位并维护全球安全。