炼石+图解国家网信办《生成式人工智能服务管理办法（征求意见稿）》V1.0.0-29页_4mb

《生成式人工智能服务管理办法（征求意见稿）》总结

核心内容

《生成式人工智能服务管理办法（征求意见稿）》是我国首部针对生成式人工智能服务的专门立法，旨在促进生成式人工智能技术的健康发展和规范应用。该办法发布于2023年4月11日，意见反馈截止时间为2023年5月10日。

主要观点

• 该办法强调技术发展与安全合规并重，通过立法手段为生成式人工智能服务提供明确的法律框架。
• 强调对生成式人工智能服务提供者的责任和义务，包括数据合规、内容审核、用户隐私保护、算法透明度、投诉处理机制等。
• 提出对生成内容进行标识，防止用户被误导或误认。
• 建立安全评估和算法备案制度，确保服务符合国家法律法规和社会伦理要求。
• 明确对违规行为的处罚措施，包括警告、通报批评、罚款、暂停或终止服务，甚至追究刑事责任。

关键信息

一、立法目的和适用范围

• 立法目的：构建完善的生成式人工智能法制化监管体系，促进技术健康发展和规范应用。
• 适用范围：适用于面向中华人民共和国境内公众提供生成式人工智能服务的组织和个人，包括通过可编程接口等方式支持他人生成内容的提供者。
• 关键定义：生成式人工智能是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。

二、提供者义务

• 数据合规：提供者需确保训练数据来源合法，不含有侵犯知识产权的内容，且数据包含个人信息时需征得用户同意。
• 内容审核：生成内容应体现社会主义核心价值观，不得含有违法违纪、扰乱社会和经济秩序的内容，且不得生成歧视性内容。
• 用户身份核验：提供者需按照《网络安全法》要求，要求用户提供真实身份信息。
• 防止沉迷：提供者应采取适当措施防止用户过分依赖或沉迷生成内容。
• 人工标注：需制定清晰、可操作的标注规则，并对标注人员进行培训和抽样检查。
• 隐私保护：不得非法留存用户输入信息，不得根据用户信息进行画像分析，不得向他人提供用户输入信息。
• 内容标识：对可能造成公众混淆或误认的生成内容进行显著标识，但文本内容未要求标识。

三、监管机制

• 安全评估：对具有舆论属性或社会动员能力的信息服务进行安全评估，需在上线或功能变更时申报。
• 算法备案：按照《互联网信息服务算法推荐管理规定》进行备案，需在服务启动后10个工作日内完成。
• 投诉处理机制：建立用户投诉接收处理机制，及时处置用户关于更正、删除、屏蔽个人信息的请求。
• 信息披露：提供者需披露影响用户信任和选择的必要信息，包括训练数据来源、人工标注规则、基础算法等。
• 违规处理：对生成不符合要求的内容，应在3个月内通过模型优化等方式防止再次生成；对违规用户，可暂停或终止服务。

四、处罚措施

• 对于违反《办法》规定拒不改正或情节严重的，将“处一万元以上十万元以下罚款”。
• 构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。

五、国际背景

• 全球多国对生成式人工智能（AIGC）的数据安全问题高度关注，如美国、加拿大、英国、意大利、德国、西班牙、瑞典和印度等。
• 美国正在研究对ChatGPT等人工智能工具的监管措施，包括认证程序。
• 加拿大对OpenAI展开隐私调查，英国发布对AIGC的8个监管问题。
• 意大利暂时禁用ChatGPT并展开调查，德国、西班牙、瑞典则态度不一。
• 印度政府表示不打算监管人工智能，认为其是“重要和战略性”领域。

总结

《生成式人工智能服务管理办法（征求意见稿）》是我国在生成式人工智能服务领域的重要立法尝试，涵盖了从数据合规、内容审核、用户隐私保护、算法透明度、投诉处理机制到处罚措施等多个方面。该办法不仅借鉴了《网络安全法》《数据安全法》《个人信息保护法》等上位法，还参考了《互联网信息服务算法推荐管理规定》《互联网信息服务深度合成管理规定》等具体制度，形成了一套较为完善的监管体系。通过明确责任主体、建立多项监管机制、强化个人信息保护要求，该办法为生成式人工智能的健康发展提供了法律保障。