2024-12-09-CSET-中华人民共和国国家标准_网络安全技术-生成的基本安全要求人工智能服务（反馈草案）_19页_584kb

中国国家标准草案：生成式人工智能服务安全基本要求（征求意见稿）

该草案旨在通过标准化提高生成式人工智能（AI）服务的安全性和网络安全水平。草案重点在于预防AI系统生成有害内容，如色情、欺凌、仇恨言论、诽谤、侵犯版权及批评特定政治实体，同时覆盖网络安全、数据安全和个人信息保护等方面。

主要内容

草案规定了生成AI服务的基本安全要求，包括训练数据安全、模型安全和安全措施。训练数据要求涉及来源多样性、内容过滤、知识产权保护、个人信息同意和数据标注安全，如数据来源需进行安全评估，禁止使用含不良信息的数据，并建立注释员培训机制。模型安全则强调生成内容的准确性、可靠性、监测和更新，需使用技术措施减少错误和有害输出，并防止恶意输入攻击。

安全评估与措施

草案为服务提供商制定了安全评估方法，包括关键词库、测试题库和拒绝回答题库的构建，确保覆盖31种安全风险类型。安全措施涵盖人员适用性、服务透明度、用户输入处理、投诉机制和服务稳定性，强调AI服务在关键场景（如医疗、金融）需额外保护未成年人措施。

该标准草案由中国国家标准化管理委员会制定，旨在规范生成AI服务生命周期，防范潜在风险并提升服务质量。读者可访问指定网址获取完整文件。