人工智能风险相关术语研究（一）_14页_737kb

人工智能风险术语研究摘要

本报告基于2025年2月中美国战略对话，探讨了9个关键人工智能风险术语，旨在增进对AI潜在安全风险的理解。主要术语包括：

• 灾难性风险：破坏力极强、影响广泛的极端事件，源于技术失控或治理失效。
• 生存风险：威胁人类物种存续的风险，如小行星撞击或失控AI，具有不可逆性。
• 人工智能可控性：AI系统在预设条件下完成任务的能力，包括实时隔离和恢复机制。
• 战略稳定：核武器领域和更广范围的稳定平衡，强调行为体克制与互制约。
• 失控危机：AI系统因技术故障或自主行为酿成灾难，人类无法控制。
• 双重用途技术：既有民用又有军事应用，如促进武器开发。

报告强调AI风险需通过术语定义和国际合作缓解释，引用治理框架和国际标准。人工智慧与国际安全术语工作组成员包括多机构专家，旨在推动AI治理发展。