2024-09-09-清华大学战略与安全研究中心-人工智能术语研究阶段性成果_18页_1mb

人工智能术语研究阶段性成果总结

报告概述

本报告为CISS人工智能与国际安全项目术语工作组发布的第2期（总第37期）阶段性成果，聚焦于人工智能相关术语的研究与定义，出版时间为2024年8月30日。报告内容涵盖武器系统、智能/自主平台、智能/自主技术、行动与控制、人机关系等领域的术语定义、分类和应用，强调技术可控性与伦理治理。

主要内容总结

武器系统

• 武器与装备：分为攻击性与防御性武器、武器装备（包括军械、弹药等）、国际战略与安全报告中的定义引用军队作战支持，强调其作为战争物质基础的作用。
• 自主武器系统：定义为安装AI系统的武器，区分“不可接受类”（特征包括致命性、全自主性、无法终止性、滥杀性、进化性）和“可接受类”（需人类控制，遵守国际人道法）。
• 非致命性武器：旨在最小化武力使用，快速失能目标，适用于执勤、处突等场景。

智能/自主平台

• 定义：包括机器人（自动执行任务）、智能武器（AI赋能的作战系统）、集群智能（群体协作实现复杂功能）、无人系统（如无人机、无人地面平台）的术语定义。
• 应用：涵盖从军事到民用领域的部署，强调自主性对适应复杂环境的益处。

智能/自主技术

• 核心AI技术：定义包括人工智能（第三代AI，结合知识、数据、算法和算力）、机器学习（优化模型参数）、深度学习（多层神经网络子集）、神经网络等，引用标准如GB/T 41867-2022。
• 发展原则：强调AI系统需提升透明性、可解释性和可靠性。

行动与控制

• 决策链：涉及目标识别、确认、授权、决策确认、任务终止等机制，确保人类监督控制。
• 指挥控制：定义指挥链（职权线），强调战略、战役、战术级控制对行动保障的作用。

人机关系

• 可信赖AI：焦点是透明性、可解释性、可追溯性、可控性、可靠性、可预测性，确保AI系统安全、可靠，并始终处于人类控制之下。
• 伦理治理：引用多个立场文件和标准，推动“智能向善”，保护隐私和人权。

关键论点与结论

报告突出人工智能技术的潜在风险和管控必要，主张对自主武器系统进行区分治理，并在所有AI应用中强化人类控制、透明性和伦理审查，以促进技术安全发展和国际合规。