2023-11-23-中国信通院-大模型治理蓝皮报告（2023年）——从规则走向实践_72页_1mb

大模型治理蓝皮报告（2023年）摘要

一、技术趋势与合规挑战

当前大模型技术正处于快速发展期，以 ChatGPT 为代表的大模型标志着生成式 AI 的广泛应用，正在重构内容生产、公共服务与社会治理。

• 核心特征: 从决策至生成，从单模态至多模态，参数规模膨胀至千亿级别。
• 主要影响：生产方式变革、通用智能探索、人机交互深化。
• 主要风险：内容可靠性下降、“涌现”能力失控、隐私安全漏洞、加剧社会不平等。

二、敏捷治理框架形成

面对传统监管失效，国际上普遍采纳敏捷治理理念：

• 基本原则：柔性、流动性、灵活性、适应性、以人为本。
• 治理机制：事前备案、事中全流程评估、事后溯源检测。
• 全球实践：欧盟《人工智能法案》分级监管、美国行政令备案要求、英国“监管沙盒”。

三、多元主体协同治理

• 国际组织（OECD、IEEE、联合国教科文组织）在伦理标准制定中引领作用增强。
• 主权政府加强监管机构设置，如欧盟将设立AI办公室、NIST发布风险管理框架。
• 企业层面形成自律机制，如微软AI办公室、OpenAI RLHF技术应用。

四、中国实践路径

• 创新治理理念：强调敏捷治理与风险等级分类。
• 建立治理工具体系：实行《生成式人工智能服务暂行办法》下的备案、评估、溯源制度。
• 治理创新路径：强化企业责任，构建沙盒机制，深化国际合作。

五、核心建议

1. 落实敏捷治理理念，实现“监管沙盒”先行先试。
2. 就风险等级合理分类，明确预训练数据合法性。
3. 推动技术创新，建立国家级评估平台和标准化工具。
4. 加强生态治理，促进企业积极构筑合规优先体系。
5. 支持发展中国家参与全球治理体系构建。

中国信息通信研究院政策与经济研究所
(完)