20200928-中国信通院-人工智能治理白皮书_103页_1mb

报告摘要

本白皮书由中国信息通信研究院和中国人工智能产业发展联盟发布，旨在探讨人工智能治理的必要性、全球治理机制及未来发展方向。人工智能作为一项战略性技术，正深刻影响社会、经济和生活，但其技术特性也带来了诸多风险和挑战，因此治理成为必然。

人工智能时代的兴起
- 人工智能技术成为科技革命的核心驱动力。
- 各国政府和企业纷纷投入资源，推动人工智能发展。
- 人工智能在多个领域展现巨大潜力，如智能制造、智慧医疗等。
人工智能的技术特性
- 通用目的性：技术可应用于多个场景，具有强大的技术溢出效应。
- 算法黑箱性：深度学习算法难以解释其决策过程，形成“黑箱”效应。
- 数据依赖性：数据质量直接影响人工智能系统的输出结果，也可能引发偏见和歧视。
人工智能引发的风险
- 社会维度：冲击就业、影响政治进程、侵害公共安全。
- 企业维度：合规难度加大、法律责任不明、知识产权保护不足。
- 个人维度：算法偏见、隐私泄露、人格尊严受损。
人工智能治理的新挑战
- 专业化治理：需要建立具备专业知识的治理团队。
- 多元化治理：涉及多学科协作与多方参与。
- 敏捷化治理：需适应技术快速迭代与应用多样化。
- 全球化治理：技术与风险具有全球性，需国际合作。

治理目标
- 坚持科技造福人类，平衡创新发展与有效治理。
- 释放技术红利，精准防范风险。
治理模式
- 国家政府：核心治理主体，负责制定政策与法律。
- 国际组织：引导全球治理方向，推动规则共享。
- 行业组织：推动技术标准与产业规范。
- 企业：落实治理规则，推动自律。
- 公众：监督与反馈，形成自下而上的治理机制。
治理手段
- 伦理约束：为技术发展提供价值判断标准。
- 技术应对：通过工具和机制解决算法偏见、隐私泄露等问题。
- 规范立法：制定法律框架，明确责任归属与权利保护。

国际层面
- 联合国、G20、OECD等国际组织推动全球伦理共识。
- 提出多项伦理倡议，如《人工智能设计伦理准则》《G20人工智能原则》等。
国家层面
- 各国根据自身发展路径制定伦理文件，如美国关注国家安全，欧盟强调可信人工智能，德国聚焦自动驾驶伦理，中国倡导负责任发展。
- 共同的伦理原则包括：人类福祉、避免伤害、平等均衡、公平正义、安全可控、隐私保护、责任分担、多元包容。
企业层面
- 多家科技企业制定伦理原则，设立专门机构进行伦理管理。
- 通过技术工具和机制，如AI Fairness 360、算法透明性指南等，落实伦理规范。
伦理规制发展
- 伦理规制经历了从原则到体系的演变。
- 伦理体系包括：伦理使命、伦理原则、实施细则。

全球立法趋势
- 数据与算法成为立法核心议题。
- 各国加快制定数据保护和算法监管法律，如GDPR、《开放政府数据法案》等。
- 立法逐步从源头治理走向综合治理，更加注重技术与法律的结合。
场景化立法
- 自动驾驶：各国制定相关法规，如《自动驾驶伦理准则》《自动驾驶立法》。
- 深度伪造：防止虚假信息滥用，如美国、日本等国立法应对。
- 智能金融：规范金融产品的使用，如《智能金融产品监管指南》。
- 智能医疗：保障患者安全与隐私，如《智能医疗法规》。