人工智能安全标准化白皮书+（2023版）-32页

人工智能安全标准化白皮书（2023版）总结

一、人工智能发展现状

1. 技术特点：以深度学习为基础发展为热潮，大模型成为主流；指令微调技术广泛应用。
2. 应用趋势：与实体经济深度融合，成为产业生态中的重要组成部分；广泛应用在制造、医疗、交通、金融等领域。
3. 安全属性：主要包括可靠性、透明性、可解释性、公平性、隐私性等。

二、人工智能安全风险分析

1. 用户数据风险：训练数据泄露引发隐私暴露问题，特别是在交互式AI使用场景中。
2. 模型复杂性风险：模型日趋复杂增加了可解释性难度，缺乏统一衡量标准。
3. 可靠性不足风险：影响关键场景（如自动驾驶）的成熟落地。
4. 滥用风险：AI被用于恶意活动如诈骗、虚假内容传播等。
5. 核心资产保护风险：模型与数据成为重资产，面临窃取与泄露威胁。
6. 意识形态安全风险：AI系统可能受区域内意识形态影响，带来网络宣传风险。

三、人工智能安全政策与标准现状

1. 国内外政策法规：
   • 联合国发布伦理建议书。
   • 欧盟《人工智能法案》关注高风险AI监管。
   • 美国强调企业自律与安全原则。
   • 其他地区如英国、加拿大、新加坡也制定了各自监管框架。
2. 标准体系：
   • 国际标准：关注人工智能管理、可信性、安全与隐私。
   • 欧洲：发布AI安全评估指南和标准需求。
   • 美国：NIST制定系列AI标准草案，企业标准由谷歌、微软等参与制定。
   • 中国：发布或正在制定涵盖算法评估、计算平台、生物特征识别、汽车数据等标准。

四、人工智能安全标准需求分析

1. 定义并规范人工智能安全属性及其度量指标，确保统一标准；
2. 制定用户输入数据保护规范，保障个人信息与商业秘密安全；
3. 提供AI服务网络安全防护指南，防止模型窃取、攻击等；
4. 建立AI安全评估规范，帮助产品提供安全保障；
5. 针对生成式AI，制定专门数据与人工标注安全规范。

五、建议与展望

1. 持续完善AI安全标准体系，覆盖基础共性、技术系统、管理服务等方面；
2. 开展基础共性安全标准研究，确保属性定义和指标规范化；
3. 加快关键人工智能安全标准的研发，充分发挥标准在标准化制定和产业发展中的支撑作用。