网络安全标准实践指南_人工智能训练数据清洗安全指南_25页_1mb

网络安全标准实践指南——人工智能训练数据清洗安全指南总结

核心内容概述

《网络安全标准实践指南——人工智能训练数据清洗安全指南》是由全国网络安全标准化技术委员会秘书处组织制定的文件，旨在为人工智能模型开发方、训练数据供应商及相关管理人员提供训练数据清洗活动的安全指引。该指南围绕训练数据清洗活动的安全原则、风险识别维度、清洗方法和实施流程展开，强调在数据清洗过程中保障数据合法合规、内容安全、公平性与隐私保护，以提升模型的可靠性与安全性。

主要观点

• 数据清洗是模型训练的关键环节，直接关系到模型输出的安全性与可靠性。
• 数据清洗需遵循安全可控、分布多样、透明可溯、持续迭代四大原则。
• 风险识别与评估是数据清洗的必要步骤，需全面覆盖数据质量、内容安全、歧视性、商业合法性、隐私保护、服务安全需求、对抗性等多个维度。
• 清洗方法需结合技术手段与人工审核，以实现全面覆盖与精准处理。
• 数据清洗后需进行二次评估，确保清洗效果符合安全与法律要求。
• 持续监控与迭代优化是保障模型长期安全运行的重要机制。

关键信息

1. 训练数据清洗安全原则

• 安全可控原则：确保数据合法合规与内容安全，防止模型输出不安全内容。
• 分布多样原则：保障数据来源和场景的多样性，提升模型泛化能力。
• 透明可溯原则：记录清洗规则、标注标准与关键决策，确保过程可审计、结果可追溯。
• 持续迭代原则：根据业务场景、模型反馈与安全环境的变化，动态调整清洗策略。

2. 风险识别维度

3. 清洗方法

4. 实施流程

1. 数据收集与来源审查

   • 明确数据范围与用途
   • 审查数据来源合法性与可靠性

2. 数据质量初步处理与标注

   • 处理数据完整性、准确性、时效性、可用性与重复性
   • 制定标注流程与规范，进行人员培训与质量控制

3. 风险识别与清洗实施

   • 识别与评估各类型风险
   • 根据清洗策略执行数据清洗

4. 清洗数据风险二次评估

   • 对违反社会主义核心价值观、歧视性、侵犯权益、服务安全、对抗性等风险进行二次验证
   • 采用人工抽检与技术抽检结合的方式

5. 版本控制

   • 每次清洗标注清洗批次号
   • 关键操作记录日志，规定保留期限

6. 持续监控与迭代优化

   • 建立标准化数据清洗管道与自动化工具
   • 实施监控与反馈机制，定期审查与更新清洗策略

5. 附录内容

• 附录A：过滤方法应用示例

  • 提供关键词表示例与规则体系示例，涵盖违反社会主义核心价值观、歧视性、侵犯权益等维度
  • 示例包括多模态、上下文、正则、语义、结构化等规则类型

• 附录B：数据质量指标

  • 提供完整性、准确性、重复性、基础统计等维度下的具体检查项与量化指标
  • 包括缺失率、异常值占比、重复率、标准差、均值等指标

• 附录C：风险评估筛查示例

  • 提供偏见风险、有害内容风险、隐私泄露风险、对抗性风险等的筛查目标、量化指标与处置动作
  • 包括群体分布统计、机会均等差、混淆矩阵差异等偏见评估指标

参考文献

• 《中华人民共和国个人信息保护法》
• GB/T 35273-2020 信息安全技术 个人信息安全规范
• GB/T 37964-2019 信息安全技术 个人信息去标识化指南
• GB/T 41867-2022 信息技术 人工智能 术语
• GB/T 42460-2023 信息安全技术 个人信息去标识化效果评估指南
• GB/T 45652-2025 网络安全技术 生成式人工智能预训练和优化训练数据安全规范
• GB/T 45654-2025 网络安全技术 生成式人工智能服务安全基本要求
• GB/T 45674-2025 网络安全技术 生成式人工智能数据标注安全规范
• TC260-PG-20244A 敏感个人信息识别指南
• TC260-PG-AAAABB 个人信息匿名化与去标识化指南