【普华永道】人工智能行业创新与治理：解读生成式人工智能的最新监管动向_5页_2mb

创新与治理：解读生成式人工智能的最新监管动向

核心内容概述

随着生成式人工智能（AIGC）技术的快速发展，各国开始加强对该技术的监管。本文聚焦于中国国家互联网信息办公室发布的《生成式人工智能服务管理办法（征求意见稿）》，分析其对AIGC产品的定义、适用范围、合规要求及责任主体等方面的规定，并探讨其在实际执行中可能面临的挑战与争议。

主要观点与关键信息

1. AIGC的定义

• 欧盟定义：将人工智能定义为“基于人类定义的目标，生成内容、预测、建议或决策的软件”，但未明确将基础模型纳入监管。
• 中国定义：《征求意见稿》将生成式人工智能定义为“基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术”，明确了其技术特征和应用范围。
• 适用产品：包括ChatGPT、Bard、Midjourney、剪映等在内的多种AI产品均被纳入监管范围。

2. 适用范围

• 面向公众服务：只要是“面向中华人民共和国境内公众提供服务”，无论服务提供者是否为境内主体，均适用该管理办法。
• 域外效力：该办法具有域外适用性，与《个人信息保护法》类似，但其适用边界存在模糊之处。
• 适用争议：
  • 未接受中国用户注册的AI产品是否适用？
  • 全球化产品是否因未主观瞄准中国市场而被排除？
  • 非公众服务的AI产品是否适用？

3. 合规要求

《征求意见稿》主要从数据安全、内容合规和知识产权保护三个方面提出要求：

• 数据安全：

  • 禁止非法获取、披露、利用隐私和商业秘密。
  • 禁止随意进行用户画像。
  • 要求对生成内容中的个人信息进行保护，防止被用于不当用途。

• 内容合规：

  • 要求生成内容真实、准确、客观、多样，并体现社会主义核心价值观。
  • 禁止生成虚假信息。
  • 需要对来源复杂、难以追溯的数据进行特殊标识和事前警示。

• 知识产权保护：

  • 禁止在训练过程中使用受版权保护的内容。
  • 人工智能生成内容本身不享有著作权，但若由人工参与编辑，可能享有著作权。
  • 企业需制定知识产权保护策略，避免侵权风险。

4. 责任主体

• 提供者责任：包括研发者、利用者和技术支持者，需承担内容生产者与个人信息处理者的双重责任。
• 责任争议：
  • 用户才是实际内容生产者，提供者仅提供工具，不应完全替代用户承担责任。
  • 提供者作为受托人，责任范围可能被扩大，与《个人信息保护法》的定义存在差异。

5. 提供者义务

• 算法评估与备案：需按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》和《互联网信息服务算法推荐管理规定》进行申报与备案。
• 人工标注：对训练数据进行结构化处理，提高可解释性和可控制性。
• 内容标识：对生成内容进行显著标识，避免与真实内容混淆。
• 实名认证：确保用户身份真实可靠，减少虚假身份和恶意行为。
• 防沉迷设置：防止未成年人过度使用。
• 投诉处理机制：建立用户投诉接收与处理流程。
• 服务稳定性：确保产品稳定运行，保障用户正常使用。
• 模型优化义务：在3个月内对不符合要求的内容进行优化，防止再次生成。
• 科学引导用户：防止滥用和违法使用。

结语

《征求意见稿》是中国首部针对生成式人工智能的专项法规，体现了国家对AI技术的高度重视。然而，其部分内容仍存在模糊之处，例如适用范围、责任划分等，需进一步明确。未来，随着正式稿的出台，相关监管细则将进一步完善，企业需提前做好合规准备。

注：本文为一般性信息，不应用于替代专业法律意见。