20201230-中国信通院-全球人工智能治理体系报告_30页_987kb

全球人工智能治理体系报告总结（2020）

核心内容概述

本报告由中国信息通信研究院政策与经济研究所人工智能与经济社会研究中心发布，旨在系统分析人工智能对经济社会发展的促进作用与风险挑战，梳理全球人工智能治理进展，并提出构建人工智能治理体系的设计思路与我国未来治理方向。报告内容涵盖治理目标、治理主体、治理手段、治理评价等多维度，强调多方协同治理、伦理引导、技术应对与规范立法相结合，以实现科技造福人类、安全与发展兼顾的治理愿景。

主要观点

一、人工智能带来全球治理新挑战

1. 推动经济社会智能化变革

   • 人工智能是科技创新、经济发展、社会进步的重要驱动力。
   • 人工智能技术已进入第三次发展浪潮，具备深度学习、人机协同、群智开放等特征。
   • 在研发、制造、服务等领域，人工智能显著提升了社会生产效率，催生了新业态，推动传统产业智能化转型。

2. 引发多方面风险挑战

   • 安全风险：人工智能可能被滥用，导致隐私泄露、虚假信息、算法歧视、危害公共安全等问题。
   • 社会风险：技术替代性强，可能引发结构性失业、贫富差距扩大、数字鸿沟加深等社会问题。
   • 法治风险：人工智能具备一定自主性，但缺乏法律人格，现行法律体系难以应对责任归属、伦理审查等问题。

3. 治理难度加大

   • 算法黑箱性、数据依赖性、技术跨界性等特性增加了治理复杂性。
   • 传统治理结构与方法难以适应人工智能的快速演进与广泛应用。

全球人工智能治理进展

二、全球主要国家和地区高度重视人工智能治理

1. 全球治理深入发展

   • 各国已初步形成伦理治理共识，推动可信人工智能生态系统建设。
   • 国际组织如联合国、G20、OECD等正积极推动全球性伦理原则与标准制定。

2. 各国治理侧重点不同

   • 美国：强调国家安全、就业影响及伦理原则，设立多个专门委员会与监管机构。
   • 欧盟：注重伦理价值观与法律框架，推动《可信人工智能伦理指南》与《人工智能白皮书》。
   • 英国：重视AI规范发展与人才培养，发布《数据宪章》《人工智能伦理准则》等文件。
   • 法国：通过学术辩论与伦理委员会推动AI伦理建设。
   • 德国、韩国：在自动驾驶等领域制定详细伦理与安全准则。
   • 中国：稳步推进人工智能治理，提出“三步走”战略目标，发布《新一代人工智能治理原则》等文件。

3. 我国治理稳步推进、成效显著

   • 我国已建立“三步走”治理目标，推动人工智能法律法规、伦理规范、标准体系的建设。
   • 政府、企业、科研机构等多方协同，形成治理合力。
   • 加强政策支撑、行业自律、标准制定与国际交流，营造健康可持续的发展环境。

构建人工智能治理体系的思考

三、推动构建人工智能治理体系的设计思路

1. 治理目标：科技造福人类、安全与发展兼顾

   • 需平衡创新与治理，避免过度限制或放任发展。
   • 强调以人为本，确保人工智能服务社会福祉。

2. 治理模式：政府、市场、公众协同共治

   • 政府：制定政策、法律法规，设立专门机构（如附表1）。
   • 市场：科技企业积极实践伦理原则，推动技术工具研发与标准制定。
   • 公众：鼓励公众参与治理过程，提升对AI的信任与理解。

3. 治理手段：伦理引导、技术应对、规范立法

   • 伦理原则先行，如《阿西洛马人工智能原则》《人工智能伦理十大原则》等。
   • 技术工具研发，如算法透明工具、隐私保护技术等。
   • 法律法规制定，如数据安全法、自动驾驶法规等。

4. 治理评价机制：全面覆盖、动态反馈

   • 建立覆盖伦理、技术、法律等多维度的评价体系。
   • 强调对治理效果的持续监测与反馈，推动治理体系不断优化。

我国人工智能治理的完善路径

四、持续完善我国人工智能治理体系

1. 加大政策支撑力度，优化治理环境

   • 统筹规划人工智能发展与治理，推动数据治理、算法规制、标准制定、安全评估等能力建设。
   • 建立投诉举报机制，鼓励第三方机构参与评测，加强公众伦理教育。

2. 深化治理规则研究，提升治理能力

   • 加强对人工智能伦理、法律、技术的研究，推动治理专业化、系统化。
   • 推动行业自律，完善操作指引，支持产业界实践治理原则。

3. 明确不同阶段治理重点，完善治理路径

   • 近期：加快制定产品和服务标准，聚焦数据治理与重点行业应用。
   • 中远期：调整责任法律制度，实现法律与伦理原则的衔接，探索算法透明度与责任划分机制。

4. 加强国际交流合作，参与全球治理议题

   • 倡导国际合作，推动全球人工智能治理框架构建。
   • 参与国际标准化组织工作，推动全球治理共识形成。

关键信息

• 人工智能已成为推动经济社会变革的重要力量，但伴随其发展也带来多方面风险。
• 全球各国在人工智能治理上形成共识，但治理模式与侧重点存在差异。
• 中国已提出明确的治理目标，推动法律法规、伦理规范、标准体系等多方面建设。
• 治理需多主体协同，包括政府、企业、公众、国际组织等。
• 治理手段需结合伦理引导、技术工具、规范立法等，实现系统性、动态化治理。
• 治理评价机制应覆盖全面、反馈及时，以提升治理效能与公众信任。

附表摘要

• 附表1：列举了主要国家和地区设立的人工智能治理专门机构及其职责。
• 附表2：汇总了各国及国际组织发布的伦理原则与规范相关文件。
• 附表3：列出了人工智能标准化文件及其核心内容。

总结

本报告系统梳理了人工智能对全球治理带来的机遇与挑战，提出了构建全球人工智能治理体系的思路与我国治理路径。强调人工智能治理应以科技向善为核心，通过多方协同、伦理引导、技术应对与规范立法相结合，推动人工智能安全、可控、可持续发展。同时，建议加强国际合作，积极参与全球治理议题，为构建公正合理的国际人工智能治理框架贡献力量。