人工智能安全标准化白皮书（2023版）-信安标委_32页_1mb

人工智能安全标准化白皮书（2023版）总结

引言
人工智能作为信息时代的重大科技成果，已成为推动社会发展的核心力量。其安全、有序、快速的发展需各国统筹治理。中国在党的十八大以来，通过政策引导和技术创新，使人工智能在政治、经济、医疗等领域发挥关键作用。随着生成式人工智能等新技术的应用，网络安全、数据隐私、意识形态等风险日益凸显。全国信息安全标准化技术委员会大数据安全标准特别工作组基于前期研究成果，发布本白皮书以系统阐述人工智能安全标准化进展及未来方向。

一、人工智能发展现状

1. 技术特点：深度学习技术加速发展，大模型（如ChatGPT、StableDiffusion）成为主流，其参数规模和能力接近人类水平，推动通用人工智能（AGI）探索。
2. 应用趋势：人工智能与实体经济深度融合，覆盖制造、医疗、交通、教育、金融等领域，形成以通用AI为基座、专用AI环绕的“生态圈”。
3. 安全属性：除传统网络安全属性（机密性、完整性、可用性）外，可靠性（抗干扰能力）、可解释性（算法逻辑透明）、公平性（避免歧视）、隐私性（数据保护）及伦理合规成为核心关注点。

二、人工智能安全风险分析

1. 隐私泄露风险：用户数据被广泛用于训练，可能在不知情情况下收集个人信息、商业秘密等。模型规模扩大加剧了数据泄露的隐蔽性。
2. 可解释性难题：深度学习算法复杂度高，决策过程难以透明化，现有解释技术效果有限，缺乏统一评价标准。
3. 可靠性不足：现实场景复杂多变，训练数据有限，易受干扰或攻击导致性能波动，威胁自动驾驶、医疗等关键领域的安全应用。
4. 滥用误用风险：如人脸识别强制应用、虚假图像/视频诈骗、信息茧房等问题，扰乱生产生活秩序。
5. 核心资产保护挑战：模型和数据成为重点目标，需防范窃取、逆向攻击等风险。
6. 网络意识形态安全：AI可能内嵌特定价值观，若缺乏全球共识，易引发伦理冲突或社会价值观冲击。

三、人工智能安全政策与标准现状

1. 国际动态：
   • 联合国通过《人工智能伦理问题建议书》，强调伦理原则与全球共识。
   • 欧盟《人工智能法案》建立风险分类监管体系，重点关注高风险场景并要求生成式AI披露来源及数据摘要。
   • 美国以企业自律为主，NIST发布AI风险管理框架及可解释性原则，谷歌、微软提出伦理准则。
   • 英国暂缓立法，侧重监管框架设计；加拿大聚焦民众权益保护；俄罗斯、日本分别关注国家安全与技术双刃剑问题。
2. 中国进展：
   • 国家互联网信息办公室出台《互联网信息服务算法推荐管理规定》《深度合成管理规定》及《生成式AI服务管理办法》，规范技术应用。
   • 国家标准委推动《人工智能安全评估规范》《AI计算平台安全框架》等标准编制，覆盖生物识别、智能汽车等关键领域。

四、人工智能安全标准需求分析

1. 安全属性统一化：需明确可靠性、公平性、可解释性等属性的定义与度量指标，为评估提供依据。
2. 用户数据保护：针对训练数据中包含的个人隐私、商业秘密及国家秘密，需制定数据采集、存储、使用的安全规范。
3. 服务网络安全防护：防范对抗样本攻击、模型窃取、供应链攻击等新型威胁，需构建数据集防护、算法加密、抗逆向技术指南。
4. 安全评估体系：建立覆盖安全水平验证、隐患排查的评估标准，促进AI与行业的协同发展。
5. 生成式AI专项标准：针对训练数据安全、人工标注规范、内容合规性等环节，亟需制定针对性标准以平衡创新与风险。

五、人工智能安全标准化工作建议

1. 完善标准体系：结合AI安全风险动态变化，强化顶层设计，统筹基础共性、技术系统、管理服务等标准制定。
2. 推进基础共性标准：加快《机器学习算法安全评估规范》《AI计算平台安全框架》等通用标准的发布，统一安全属性定义与度量方法。
3. 聚焦产业急需标准：围绕《算法推荐管理规定》《深度合成管理规定》等法规，推动生成式AI数据安全、人工标注安全、自动化决策安全等标准落地。

附录

• 国内标准：涵盖生物识别（如人脸识别、声纹、基因数据安全）、智能汽车数据处理、个人信息自动化决策等领域的国家标准及团体标准。
• 国外标准：ISO/IEC推出AI风险管理、隐私保护等国际标准；IEEE聚焦伦理安全、可解释AI；ETSI关注数据供应链安全及攻击检测技术。

当前人工智能安全标准化工作正从基础通用向关键领域深化，需兼顾技术创新与风险防控，以实现安全与发展的协同。