中国信通院_清华大学：可信AI技术和应用进展白皮书（2023）_74页_13mb

报告摘要

可信AI技术与应用发展总结

引言

人工智能技术飞速发展，带来创新机遇和安全挑战，可信人工智能（Trusted AI）已成为推动产业数字化转型的关键。2021年，中国信通院首次系统总结可信AI框架，涵盖安全鲁棒、隐私保护、公平性和可解释性四大维度。伴随大模型和AIGC爆发，人工智能加速向通用人工智能迈进，2023年中共中央强调“重视通用AI发展，防范风险”，可信AI需作为平衡创新与风险的技术保障。

核心内容

技术底座与可信AI发展

人工智能根基稳固，得益于算法（如大模型千亿级参数）、算力（芯片演进、量子计算等）和数据（多模态、高质量数据集）的进步。产业规模持续扩大，2022年全球AI市场规模达4497亿美元，同比增长173%。可信AI实践从早期阶段迈向综合评估体系，需适应大模型引发的新挑战，包括生成式内容安全、数据隐私和伦理问题。

全球治理与监管

各国加速AI治理，政策法规侧重公平、隐私和透明。美国、欧盟、英国等地发布监管框架和测试工具，如《人工智能权利法案》和《AI法案》，并探索沙盒监管。中国出台了《生成式人工智能服务管理办法》等规定，推动分级治理。国际标准化组织（ISO/IEC、IEEE）制定可信AI技术标准，强调风险管理和伦理合规。

产业实践案例

可信AI在金融、医疗、制造等领域落地，提供具体解决方案。文本、图像和生物识别场景中，鲁棒性技术应对恶意攻击和伪造问题；可解释性工具提升决策透明度；公平性方法纠偏歧视和信息茧房；隐私保护技术（如多方安全计算、TEE）促进数据合作。企业案例显示AI赋能产业升级，催生新商业模式。

大模型和AIGC的可信挑战

大模型时代面临生成式攻击（虚假信息、网络犯罪）、数据泄漏、伦理偏见和模型安全风险。这些问题伴随AIGC生态扩展加剧，需构建覆盖泛化性、对抗性、公平性和可解释性的评估体系，防范风险全面增加。

评估体系与工具

构建以技术为核心的可信AI检测框架，涵盖隐私保护、可解释性、公平性和鲁棒性四大维度。评估指标包括模型泛化能力、抖动噪声鲁棒性、成员推断防御等方法。合作平台和工具（如蚁鉴平台）提升评估效率，但可信AI工具落地仍受经济效益限制。

发展建议与趋势展望

技术维度：加强大模型事实可信、逻辑可控，引入人机交互范式，强化多方协同。
产业维度：形成技术-产品-应用的可信共识，推动场景化落地，深化嵌合应用。
生态维度：制定标准体系，建立开源基模和评测平台。
监管维度：保持审慎监管，探索沙盒机制和行业自治。
未来可信AI将更加均衡，涵盖多个维度；内在动力多维化，涉及人-系统-环境融合；外在监管全面化，改造全生产周期风险定位。