中国信通院联合京东探索研究院发布《可信人工智能白皮书》_37页_1mb

报告摘要

可信人工智能白皮书总结

核心内容

可信人工智能（Trusted AI）是当前全球人工智能治理的重要方向，旨在通过技术、产品和应用层面的实践，实现人工智能系统的安全性、可靠性、可解释性、隐私保护、公平性、明确责任和多元包容等核心特征。其发展不仅受到技术风险的推动，也因伦理、法律和用户信任的需要而成为社会广泛关注的议题。

主要观点

人工智能技术风险：当前人工智能技术面临算法安全、黑箱模型、数据歧视、责任界定和隐私泄露等多方面的风险，这些风险引发了公众对人工智能技术的信任危机。
全球共识：可信人工智能已成为国际社会的普遍共识，各国政府和组织均在推动其发展，如G20人工智能原则、欧盟《人工智能白皮书》、美国NIST发布的《人工智能和用户信任》等。
系统方法指引：为了将抽象的伦理和治理原则落地，需要建立系统性的方法论和实践路径，涵盖企业文化和管理制度、技术支撑体系、行业标准和评估机制等。

关键信息

一、可信人工智能发展背景

技术风险引发信任危机：
- 算法安全问题：如优步自动驾驶致人伤亡事件。
- 黑箱模型问题：如美国某学校的人工智能评估系统因无法解释决策而被下线。
- 数据歧视问题：如COMPAS系统对黑人存在歧视。
- 责任界定模糊：如自动驾驶事故中责任主体难以界定。
- 隐私泄露风险：如ZAO违规收集人脸数据事件。
全球各界高度重视可信人工智能：
- G20提出“以人为本、发展可信人工智能”原则。
- 欧盟和美国均将增强用户信任作为人工智能治理的核心。
- ISO/IEC JTC1 SC42设立可信人工智能工作组，推进相关标准。
- 企业如IBM、微软、京东等也在积极探索可信人工智能实践。
需要系统方法指引：
- 伦理、法律等“软性”约束需通过可操作的方法落地。
- 本白皮书提出“可信人工智能框架”作为方法论指导。

二、可信人工智能框架

总体框架：涵盖可信特征、支撑技术、企业与行业实践路径。
可信特征：包括可靠可控、透明可释、隐私保护、明确责任、多元包容。
支撑技术：包括系统稳定性、可解释性、隐私保护、公平性等。
实践路径：从企业层面和行业层面提出具体实施建议。

三、可信人工智能支撑技术

人工智能系统稳定性技术：
- 面临对抗攻击、中毒攻击、后门攻击等挑战。
- 需要异常检测、对抗训练等技术手段提升系统稳定性。
人工智能可解释性增强技术：
- 现阶段可解释性研究仍处于初期，需通过可视化、影响函数、Grad-CAM、LIME等方法提升可解释性。
- 企业需在研发和测试阶段加强系统透明性和可复现性。
人工智能隐私保护技术：
- 差分隐私和联邦学习是当前主流的隐私保护技术。
- 需要从数据治理、算法设计等层面加强隐私保护。
人工智能公平性技术：
- 数据偏见是导致不公平决策的主要原因。
- 通过构建公平数据集、使用公平性量化指标、优化模型训练过程等方法，提升系统公平性。

四、可信人工智能实践路径

企业层面：
- 融入企业文化：管理层需认可可信理念，员工需学习和实践可信技术。
- 完善管理制度：建立可信团队、人员管理制度、系统研发与使用制度、资源配置及制度更新机制。
- 嵌入全流程：从规划设计、研发测试到运营使用，需将可信要求贯穿始终。
行业层面：
- 构建标准体系：如我国《人脸识别数据安全要求》国家标准。
- 开展第三方评估：通过专业机构对人工智能系统进行可信评估。
- 探索市场化保险机制：建立人工智能应用的保险体系，转移风险损失。

五、可信人工智能发展建议

政府层面：
- 加快人工智能监管及立法进程，构建体系化法律监管框架。
- 推动国际合作，参与全球人工智能治理规则制定。
技术研究层面：
- 构建一体化研究框架，平衡不同特征要素。
- 提前布局可信通用人工智能（AGI）研究，探索前沿技术如超级深度学习、量子机器学习等。
企业实践层面：
- 实现敏捷可信，研发检测与监测工具，匹配业务发展需求。
- 主动对接监管机构，参与数字沙盒、标准合规等措施。
行业组织层面：
- 搭建交流合作平台，推动可信人工智能生态建设。
- 编制可信人工智能操作指引，建立标准体系，加快测评和监测能力研发。

总结

可信人工智能是应对当前技术风险、伦理挑战和用户信任问题的重要手段。通过技术研究、企业实践和行业协作，构建系统性的方法论与治理框架，能够有效提升人工智能系统的安全性、可解释性和公平性。未来，随着技术的不断进步和治理体系的逐步完善，可信人工智能将成为人工智能产业健康发展的关键支撑。

展开完整摘要

试读结束，高清完整版pdf/doc/ppt,请点下载