2024-06-14-全国网络安全标准化技术委员会-网络安全技术_生成式人工智能服务安全基本要求（2024）_13页_268kb

生成式人工智能服务安全基本要求总偪

1. 范围

本标准规定了生成式人工智能服务在安全方面的基本要求，覆盖训练数据安全、模型安全、安全措施等方面，旨在提高服务安全水平，并为服务提供者和相关主管部门提供参考。适用于服务安全评估。

2. 关键要求概述

• 训练数据安全：包括数据来源管理、内容过滤、知识产权保护和信息收集合法性，强调多样性、安全评估和过滤违法不良信息。
• 模型安全：关注生成内容准确性、可靠性、问题拒答机制和模型监测，要求定期审计和更新。
• 安全措施：涉及服务适用场景、透明度、用户隐私保护、投诉机制和系统稳定性，确保未成年人保护和国家政策遵守。

3. 主要章节

• 术语定义：定义生成式人工智能服务、服务提供者、训练数据等关键术语。
• 概述：强调覆盖服务全生命周期的安全风险防范，包括应用场景、软硬件环境等风险。
• 附录：提供训练数据和生成内容的安全风险分类，以及安全评估方法，包括关键词库、测试题库建设。

4. 附加要求

• 引用标准和文件，如GB/T 25069—2022和相关法律法规，确保合规性。
• 安全评估参考包括抽样合格率、拒答率测试等具体方法。