中国信通院-可信人工智能白皮书_39页_1mb

可信人工智能白皮书总结

核心内容

本白皮书由中国信息通信研究院与京东探索研究院联合发布，旨在探讨可信人工智能的发展背景、框架、支撑技术、实践路径及发展建议，回应社会对人工智能技术安全、公平、透明等方面的关切，推动人工智能产业的健康发展。

主要观点

• 人工智能技术风险引发信任危机：人工智能在快速发展的同时，也暴露出算法安全、黑箱模型、数据歧视、责任界定和隐私泄露等问题，影响了公众对人工智能的信任。
• 全球共识推动可信人工智能发展：G20、欧盟、美国等国家和地区均将可信人工智能作为人工智能伦理和治理的重要方向，强调以人为本、安全可靠、透明可释等核心原则。
• 可信人工智能需要系统方法指引：仅靠伦理和法律原则不足以应对实际问题，需要构建一套可操作、可落地的方法论，以实现技术、产品和应用层面的可信实践。
• 可信人工智能是伦理治理的技术实现：通过技术手段提升人工智能系统的稳定性、可解释性、隐私保护、公平性和责任机制，是落实人工智能伦理治理的关键路径。

关键信息

一、可信人工智能发展背景

1. 人工智能技术风险：

   • 算法安全导致应用风险（如自动驾驶误判）。
   • 黑箱模型引发不透明问题（如教学评估系统争议）。
   • 数据歧视导致智能决策偏见（如犯罪风险评估系统对黑人存在歧视）。
   • 系统决策复杂导致责任主体难以界定。
   • 数据滥用引发隐私泄露风险（如ZAO违规收集人脸数据）。

2. 全球各界重视可信人工智能：

   • G20提出“以人为本、发展可信人工智能”的原则。
   • 欧盟与美国分别从法律和政策层面推动可信人工智能实践。
   • ISO/IEC JTC1 SC42设立可信人工智能工作组，推动标准制定。
   • 企业积极探索可信人工智能实践，如IBM、微软、京东等。

3. 系统方法指引的重要性：

   • 需要将抽象原则转化为具体实践，建立统一的可信人工智能框架。
   • 缺乏系统性方法导致实践分散，需构建统一的指导体系。

二、可信人工智能框架

• 本白皮书提出一套“可信人工智能框架”，从五个核心特征出发：可靠可控、透明可释、隐私保护、明确责任、多元包容。
• 框架涵盖企业与行业两个层面，强调从系统生命周期的角度，将可信理念融入人工智能的开发、测试与运营全过程。
• 框架强调将伦理治理要求转化为可执行的技术和管理能力，提升社会对人工智能的信任。

三、可信人工智能支撑技术

1. 人工智能系统稳定性技术：

   • 针对对抗攻击、中毒攻击、后门攻击等，提出数据预清洗、模型鲁棒性增强、对抗训练等方法。
   • 需要持续研究新的干扰手段，提升防御能力。

2. 人工智能可解释性增强技术：

   • 提出通过可视化、影响函数、Grad-CAM、LIME等技术增强模型的可解释性。
   • 可解释性是提升人工智能系统可信度的重要手段，尤其在关键领域（如法律、医疗）中不可或缺。

3. 人工智能隐私保护技术：

   • 差分隐私和联邦学习是当前主要的隐私保护技术。
   • 差分隐私通过添加噪声保护数据隐私，联邦学习在不共享原始数据的前提下进行模型训练。
   • 需要进一步优化联邦学习，提升其隐私保护能力。

4. 人工智能公平性技术：

   • 数据偏差是导致公平性问题的主要原因。
   • 提出通过构建异构数据集、数据清洗、公平性量化指标等手段提升模型公平性。
   • 公平性技术可帮助减少人工智能系统对特定群体的歧视。

四、可信人工智能实践路径

1. 企业层面：

   • 将可信人工智能理念融入企业文化，提升全员认知。
   • 建立专门的可信人工智能团队，完善管理制度。
   • 在研发与测试阶段，嵌入可信设计要求，确保可复现性与可追溯性。
   • 在运营阶段，持续监测系统风险，优化系统性能与透明度。

2. 行业层面：

   • 构建可信人工智能标准体系，确保技术规范可执行。
   • 开展第三方评估验证，提升可信度与公信力。
   • 探索市场化保险机制，转移与补偿人工智能应用带来的风险。

五、可信人工智能发展建议

1. 政府层面：

   • 加快人工智能监管与立法进程，构建体系化的法律框架。
   • 推动立法适应新技术、新风险，探索智能化监管工具。
   • 加强国际合作，推动全球人工智能治理规则制定。

2. 技术研究层面：

   • 需要一体化研究可信人工智能，平衡安全、隐私、公平等多维度要求。
   • 提前布局通用人工智能（AGI）研究，探索前沿技术路径。

3. 企业实践层面：

   • 需要匹配业务发展，实现敏捷可信，推动可信人工智能的快速迭代。
   • 推动与监管机构的合作，参与标准合规、数字沙盒等实践。

4. 行业组织层面：

   • 搭建交流合作平台，推动可信人工智能生态建设。
   • 编制操作指引，建立标准体系，推动测评与监测能力发展。

结语

可信人工智能的发展是技术、伦理与法律协同推进的重要课题。随着人工智能技术的不断演进，其治理框架和实践路径也需要持续优化，以确保人工智能系统的安全、公平、透明和可控，推动其在社会各领域的广泛应用与健康发展。