20260122-全国网络安全标准化技术委员会秘书处-网络安全标准实践指南_人工智能训练数据清洗安全指南_25页_1mb

网络安全标准实践指南——人工智能训练数据清洗安全指南总结

核心内容概述

本文档《网络安全标准实践指南——人工智能训练数据清洗安全指南》（征求意见稿 v1.0-202601）由全国网络安全标准化技术委员会秘书处组织制定，旨在为人工智能模型开发方、训练数据供应商及相关管理人员提供训练数据清洗活动的安全指导。文档涵盖了训练数据清洗的安全原则、风险识别维度、清洗方法及实施流程，为确保人工智能模型训练数据的安全性、合法性与公平性提供了系统性指引。

主要观点

1. 训练数据清洗是人工智能模型训练的重要环节，直接影响模型的安全性、准确性和可靠性。
2. 数据清洗需遵循安全可控、分布多样、透明可溯、持续迭代等核心安全原则。
3. 风险识别与清洗策略制定是清洗活动的基础，需结合多种技术手段（如关键词匹配、分类模型、统计分析等）进行系统性评估。
4. 清洗方法需综合应用数据质量处理、内容安全审查、个人信息保护、偏见缓解及安全验证等手段，以应对不同维度的安全风险。
5. 清洗后需进行二次风险评估，确保数据符合法律、道德与业务需求，防止误杀或漏杀问题。
6. 持续监控与迭代优化是保障数据清洗长期有效性的关键，需结合自动化工具与人工复核机制。

关键信息

1. 范围

• 适用于所有需要对训练数据进行清洗的主体，包括模型开发方、数据供应商等。
• 提供数据清洗的安全原则、风险识别、清洗方法与实施流程。

2. 术语定义

• 训练数据：所有直接作为模型训练输入的数据，包括预训练数据和优化训练数据。
• 训练数据清洗活动：对原始数据集进行错误检测、修正、转换和规范化的系统化过程。
• 重要数据：一旦泄露可能直接危害国家安全、经济运行、社会稳定等的数据。
• 敏感个人信息：一旦泄露或非法使用，可能对自然人造成人身、财产安全危害的信息。
• 偏见：对特定对象或群体的系统性差别对待。
• 公平性：不因偏见或其他因素导致不公平对待。

3. 训练数据清洗安全原则

• 安全可控原则：确保数据合法合规与内容安全。
• 分布多样原则：保障数据来源与场景的多样性，提升模型泛化能力。
• 透明可溯原则：记录清洗规则、标注标准与关键决策，确保过程可审计、结果可追溯。
• 持续迭代原则：根据业务需求与安全环境变化，动态调整清洗策略。

4. 风险识别维度

5. 清洗方法

6. 实施流程

1. 数据收集与来源审查：明确数据范围与用途，审查数据来源合法性与可靠性。
2. 数据质量初步处理与数据标注：进行完整性、准确性、时效性、可用性、重复性检查，制定标注规范并实施质量控制。
3. 风险识别与清洗实施：基于风险识别维度，制定清洗策略并实施。
4. 清洗数据二次评估：包括内容风险、歧视性内容、商业违法违规、侵犯他人权益、服务需求与对抗性风险的二次评估。
5. 版本控制与持续监控：对清洗数据进行版本管理，定期审查与更新清洗策略，建立监控与反馈机制。

附录要点

附录A：过滤方法应用示例

• 提供了包含违反社会主义核心价值观内容、歧视性内容、侵犯他人合法权益的关键词示例。
• 列举了多模态、上下文、关键词组合、溯源等规则体系示例，用于内容安全审查。

附录B：数据质量指标

• 列举了完整性、准确性、重复性、基础统计等维度的数据质量检查指标。
• 包括关键字段缺失率、异常值占比、超限值占比、重复率等量化指标。

附录C：风险评估筛查示例

• 提供了偏见风险、有害内容风险、隐私泄露风险、对抗性风险的评估筛查示例。
• 包括命中率、分布偏移、机会均等差、混淆矩阵差异等量化评估方法。

参考文献

• 《中华人民共和国个人信息保护法》
• GB/T 35273-2020 《信息安全技术 个人信息安全规范》
• GB/T 37964-2019 《信息安全技术 个人信息去标识化指南》
• GB/T 41867-2022 《信息技术 人工智能 术语》
• GB/T 42460-2023 《信息安全技术 个人信息去标识化效果评估指南》
• GB/T 45652-2025 《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》
• GB/T 45654-2025 《网络安全技术 生成式人工智能服务安全基本要求》
• GB/T 45674-2025 《网络安全技术 生成式人工智能数据标注安全规范》
• TC260-PG-20244A 《敏感个人信息识别指南》
• TC260-PG-AAAABB 《个人信息保护 个人信息匿名化指南》
• TC260-PG-AAAAABB 《个人信息保护 个人信息去标识化指南》