全国信息安全标准化技术委员会-人工智能伦理安全风险防范指引-2021.1-12页_438kb

网络安全标准实践指南总结

核心内容概述

《网络安全标准实践指南》是由全国信息安全标准化技术委员会秘书处发布的标准相关技术实践指南，旨在为人工智能相关活动提供伦理安全风险防范的指引。该指南涵盖了人工智能伦理安全风险的识别、防范与管控，适用于研究开发、设计制造、部署应用及用户使用等各个环节。

主要观点

• 人工智能技术的快速发展对社会产生了深远影响，同时也带来了伦理安全风险，如失控性、社会性、侵权性、歧视性和责任性风险。
• 风险防范应贯穿人工智能的全生命周期，从研究开发到用户使用，需多方协同治理。
• 风险防范措施应基于我国社会价值观和国家法律法规，确保人工智能安全可控、公平公正、包容共享。
• 可解释性和可控性是人工智能伦理安全风险防范的重要指标，需通过技术手段和制度设计加以提升。

关键信息

1. 范围

本指南适用于所有涉及人工智能研究开发、设计制造、部署应用及用户使用的组织或个人，旨在规范人工智能活动，防范伦理安全风险。

2. 术语与定义

• 人工智能：模拟、延伸或扩展人类智能的技术。
• 研究开发者：从事人工智能理论发展、技术创新等活动的主体。
• 设计制造者：将人工智能技术转化为具体系统、产品或服务的主体。
• 部署应用者：在实际场景中使用人工智能系统、产品或服务的主体。
• 用户：接受和使用人工智能系统、产品或服务的主体。
• 可解释性：人工智能决策或行为机制可被人类理解。
• 可控性：人工智能行为与预期一致。

3. 伦理安全风险类型

• 失控性风险：人工智能行为超出预期范围。
• 社会性风险：人工智能的滥用或误用。
• 侵权性风险：人工智能侵犯个人权利。
• 歧视性风险：人工智能对特定群体的偏见。
• 责任性风险：责任界定不清导致信任危机。

4. 风险防范措施

4.1 基本要求

• 符合社会价值观和法律法规；
• 推动可持续发展，实现安全可控的人工智能；
• 尊重并保护个人基本权利，关注弱势群体；
• 充分认识和分析伦理安全风险；
• 推动治理体系与机制建设，实现开放协作、共担责任、敏捷治理；
• 加强宣传培训，提高伦理安全意识。

4.2 研究开发

• 禁止研究开发损害基本权利的人工智能技术；
• 避免可能被恶意利用的技术；
• 谨慎研究具有自主性的人工智能；
• 提升可解释性和可控性；
• 记录关键决策并建立回溯机制；
• 推动合作与互信，促进多元化技术发展。

4.3 设计制造

• 不设计制造损害公共利益或个人权利的系统、产品或服务；
• 提升可解释性和可控性；
• 明确说明系统功能、局限、风险及影响；
• 设置事故应急处置机制，包括人工干预；
• 建立事故信息回溯机制（如黑匣子）；
• 提供必要的保障机制与救济手段（如购买保险）。

4.4 部署应用

• 使用人工智能作为决策依据时需有明确法律依据；
• 在重要决策中，不可解释的人工智能仅作为辅助工具；
• 向用户清晰说明系统功能、局限、风险及影响；
• 提供用户拒绝、干预、停止使用的人工机制；
• 提供投诉、质疑与反馈渠道，并进行响应与补偿；
• 主动识别和持续改进伦理安全风险。

4.5 用户使用

• 用户应以积极、正当目的使用人工智能；
• 主动了解伦理安全风险并反馈相关信息。

参考文献

• [1] 全国信息安全标准化技术委员会.《人工智能安全标准化白皮书》.2019
• [2] 国家新一代人工智能治理专业委员会.《新一代人工智能治理原则——发展负责任的人工智能》.2019
• [3] 经合组织（OECD）.《Principles on Artificial Intelligence》.2019
• [4] 薛澜.《走向敏捷治理:新兴产业发展与监管模式探究》.2019
• [5] 梁正.《人工智能时代亟需构建合理高效的数据治理体系》.2019
• [6] 郭锐.《人工智能的伦理和治理》.2019
• [7] 贾开.《人工智能与算法治理研究》.2019