2023-06-21-全国信息安全标准化技术委员会-人工智能安全标准化白皮书（2023版）_32页_1mb

人工智能安全标准化白皮书（2023版）总结

1. 引言

人工智能已成为信息时代的关键技术，我国在习近平新时代中国特色社会主义思想指引下保持安全有序发展。生成式人工智能等新技术带来数据隐私、算法偏见、系统可靠性等安全风险，亟需通过标准化工作统筹发展和安全。

2. 人工智能安全风险分析

• 用户数据用于训练，增加隐私泄露风险
• 复杂算法导致可解释性困难，影响关键领域应用
• 难以适应复杂场景，可靠性不足
• 滥用误用引发社会秩序问题
• 模型和数据成为高价值资产，安全防护难度提升
• 生成式AI可能对网络意识形态安全构成威胁

3. 人工智能安全政策与标准现状

国际进展

• 24项国际标准（ISO、IEEE、ETSI等），聚焦人工智能治理、可信性、安全与隐私

国内进展

• 29项国内标准，包括《机器学习算法安全评估规范》《人工智能计算平台安全框架》等
• 相关领域标准：生物特征识别、智能汽车等

4. 人工智能安全标准需求

重点需求

• 明确人工智能安全属性定义和度量指标
• 制定用户输入数据安全保护规范
• 加强人工智能服务网络安全防护
• 构建人工智能安全评估规范体系
• 制定生成式人工智能专用安全标准

5. 标准化工作建议

• 完善标准体系，涵盖基础共性、关键技术、安全管理、测试评估等方向
• 优先推进基础共性标准制订
• 加快发展急需的标准研制
• 国际标准与国内标准协同发展