安永SAASD2025可信人工智能治理白皮书47页_4mb

本报告由安永（中国）企业咨询有限公司与上海市人工智能与社会发展研究会联合撰写，聚焦于可信人工智能的治理框架。核心内容包括全球人工智能发展现状、监管体系构建、可信AI的实现原则、关键挑战、企业合规要求及风险治理策略。

全球范围内，69个国家和地区已出台AI相关法规，覆盖隐私保护、伦理规范、数据监管等领域。欧盟推出《人工智能法案》，采用风险分级管理机制，禁止高风险系统如认知行为操控，要求高风险系统通过技术标准和影响评估。美国通过《算法问责法案》、总统行政命令强化AI安全与责任归属，部分州立法规范AI在招聘等场景的使用。中国虽未专门立法，但以《网络安全法》《数据安全法》等构建监管框架，并推动《生成式人工智能服务管理暂行办法》等规范实施。

可信人工智能的定义强调技术可靠性、安全性、非歧视性、透明度及可问责性。其核心原则包括：

1. 安全与稳健性：AI系统需在全生命周期内保障安全，防范意外伤害和非法操作；
2. 透明度与可解释性：需向用户披露算法原理和决策逻辑，确保结果公正；
3. 公平性与合规性：避免算法偏见，保障数据合法使用；
4. 伦理责任与问责机制：通过ISO42001等国际标准建立责任分配体系，明确提供者与部署者的义务。

关键挑战包括算法黑箱问题（用户无法理解推荐逻辑）、数据安全风险（如数据泄露、模型反向工程）、合规管理障碍（如数据出境规则复杂性）以及伦理争议（如就业影响、隐私侵犯）。例如，某网约车平台因算法透明度不足面临监管批评；某电商招聘AI因性别偏见被关闭。

企业合规要求涵盖三方面：

• 资质管理：需获取ICP许可证、EDI许可证等基础资质，并通过算法备案、影响评估等流程；
• 算法治理：按《算法推荐管理规定》执行透明性要求，需公开算法目的与运行机制，对生成内容进行标识；
• 内容安全：建立审核机制，防范虚假信息、数据滥用及用户隐私泄露，如美国加州等地的立法规范AI在招聘中的使用。

AI风险治理架构强调全生命周期管理，包括风险管理左移（早期识别合规风险）、敏捷模式（动态调整策略）、审慎评估（如ISO42001的控制项与PDCA循环）。此外，需关注人员风险管理，如强化AI伦理培训、建立问责制度及安全监控系统。

企业治理工具如“可信AI等级标识”分三档（绿色基础级、蓝色提高级、黑色体系级），结合ISO42001、欧盟法案等国际标准，支持AI体系化建设。

行业应用实践显示：

• 汽车行业：将AI应用于研发、制造、智能驾驶，但面临数据安全、伦理责任及技术集成挑战，部分车企采用ISO42001与本地化治理机制；
• 医药行业：AI用于药物研发与医疗影像分析，但需应对数据隐私、算法偏见及监管合规难题；
• 零售与服务业：AI提升运营效率，但中小企业受限于成本与技术能力，需加强算法透明度与用户信任建设；
• 案例分析：某互联网平台通过AI优化用户推荐与客服效率，但需定期模型评测与内容监控；某车企借助AI实现自动驾驶与智能运维，依赖多传感器融合技术及任务导向测试方法。

报告强调，AI治理需融合法律、技术、伦理多维度，并通过分级标准、国际合作与持续改进机制，确保技术健康发展。安永提出“以人为本”的治理策略，倡导企业建立责任共担模式，同时推动全球AI治理体系的标准化与透明化。