2025可信人工智能治理白皮书-安永_SAASD-2025_47页_4mb

背景与目的：白皮书旨在探讨可信人工智能的治理原则与技术应用，分析全球AI发展趋势、监管要求及企业合规挑战，提供AI治理框架及行业实践参考。

全球AI发展与监管：欧盟《人工智能法案》将AI系统分级管控；美国采用行业特定方法，如算法问责法案；中国已建立基础性法规框架（如网络安全法、数据安全法等），但尚未出台专门性法律。

可信AI原则：

• G20原则：强调包容性增长、法治与人权、透明度、问责制、稳健性与安全性。
• 欧盟原则：补充人类监督、技术稳健性与隐私保护。
• 安永观点：安全/问责/透明/可信发展/以人为本。

关键问题与风险：

• 算法黑箱与信息茧房：算法不透明影响用户选择权，形成信息壁垒。
• 算法偏见：数据不均衡、特征选择偏差导致系统不公平。
• 数据安全问题：数据泄露、底层数据源合法性、跨境数据出境合规。
• 内生安全问题：基础设施脆弱、模型漏洞、应用层攻击风险。
• 科技伦理：自然人权益受损、法律风险、社会伦理问题（如失业）。

企业合规要求：

• 资质监管：互联网信息服务、生成式AI需获相关牌照。
• 算法合规：备案义务、评估要求、透明性义务。
• 内容合规：审核、标识、投诉机制。

风险治理与工具：

• 治理架构：风险识别、评估、监控与缓解。
• ISO 42001：AI治理体系标准，融合质量/安全/隐私管理。
• 可信AI等级标识：基础级（绿色徽章）、提高级（蓝色徽章）、体系级（黑色徽章）。

行业洞察：

• 汽车行业：应用集中在车辆研发、智能座舱、充电优化，面临策略、数据、合规挑战。
• 医药行业：AI辅助诊断、药物研发，挑战包括数据隐私与算法偏见。
• 零售行业：优化供应链与客户服务，数据合规、集成性是主要痛点。

典型案例：

• 互联网平台：利用AI提升客服效率、图片生成、经营支持，强调模型透明性与安全监控。
• 汽车企业：自动驾驶与智能运维，投入分析显示技术投入集中于流程优化与安全保障。

结语：强调可信AI需结合技术、伦理与法律治理，呼吁共同构建可持续AI生态，以应对科技革命带来的挑战与机遇。