> **来源：[研报客](https://pc.yanbaoke.cn)** # 总结：从合规到信心——迈向负责任的AI成熟度 ## 核心内容 随着生成式AI在商业和社会中的广泛应用，其带来的风险也日益增加。本文探讨了企业在负责任AI（Responsible AI, RAI）方面的成熟度，分析了当前AI风险的挑战、监管环境的变化以及企业如何通过系统化措施实现负责任AI的转型。文章强调，负责任AI不仅是合规问题，更是企业创造价值、增强信任的关键。 ## 主要观点 - **负责任AI的重要性**：负责任AI的开发和使用是企业实现AI价值的关键，它有助于减少风险并推动创新。 - **AI风险的复杂性**：AI相关风险范围和频率在增加，包括隐私、数据治理、安全、可靠性、透明度、知识产权、环境影响等。 - **监管环境的变化**：全球多个国家正在制定或修订AI相关法规，企业需要适应不断变化的法律环境。 - **企业对负责任AI的认知提升**：越来越多的企业开始认识到负责任AI对品牌价值和营收增长的重要性。 - **负责任AI成熟度模型**：我们提出了一个四阶段成熟度模型，帮助企业评估和提升其负责任AI的实践水平。 ## 关键信息 ### 当前AI风险挑战 1. **风险范围和频率增加** - 隐私和数据治理（51%）是企业最担忧的风险。 - 安全（47%）和可靠性（45%）是第二和第三大风险。 - 生成式AI带来的新风险包括“黑箱”模型、环境影响、知识产权侵权等。 2. **监管环境持续演进** - 超过77%的公司面临或预计面临AI监管。 - 90%的公司预计将在未来五年内受到与AI相关的法律义务影响，如网络安全、数据保护和消费者权益保护。 - 各国如欧盟、美国、英国、加拿大、法国、日本、中国、澳大利亚、德国等均在推进AI相关法规的制定。 3. **AI价值链的扩展风险** - 企业现在既是AI模型的开发者又是买家，这导致风险复杂性呈指数级增长。 - 仅43%的收购AI模型的公司有完善的采购措施，如法规检查和第三方审计。 ### 企业对负责任AI的认知与实践 - **企业对负责任AI的重视**： - 49%的企业认为负责任AI是AI营收增长的关键因素。 - 43%的企业认为负责任AI是保护品牌价值的重要手段。 - 仅29%的企业仍将其视为主要的合规问题。 - **企业对负责任AI的投入**： - 42%的企业已将超过10%的AI预算用于负责任AI项目。 - 预计79%的企业将在未来两年内达到这一目标。 ### 负责任AI成熟度模型 我们与斯坦福大学合作，构建了一个四阶段的负责任AI成熟度模型，帮助企业评估其负责任AI的实践水平： #### 阶段1：设定负责任AI原则 - 企业制定了AI伦理原则和指南，但缺乏系统化的治理流程。 - 偶尔进行AI项目的风险评估，但未形成全面的实践。 #### 阶段2：建立负责任AI计划 - 企业建立了负责任AI战略，并定义了风险评估流程。 - 引入了透明度和可审计性机制，但实施仍处于早期阶段。 #### 阶段3：将负责任AI付诸实践 - 企业系统化实施负责任AI措施，以满足监管和法律义务。 - 建立了AI风险控制机制，包括数据来源控制、模型测试、监控系统等。 #### 阶段4：成为负责任AI先锋 - 企业完全系统化地运营负责任AI，推动AI的真正价值。 - 采用前瞻性方法，持续评估当前和未来风险。 - 与第三方AI供应商合作，建立信任关系并管理风险。 - 培养负责任AI人才，进行强制性培训和教育。 ### 企业实践案例 - 一家亚洲制造企业通过制定内部AI政策和清单，确保AI的安全、公平和透明，同时通过员工培训提高实施效果。 - 一家跨国消费健康企业通过与Accenture合作，制定了负责任AI政策和运营模型，并对高风险AI应用进行了风险筛查和评估。 ## 未来展望 企业需要从合规转向价值创造，通过建立系统化的负责任AI策略，提升其在AI价值链中的整体成熟度。目前，仅有6%的公司达到了运营成熟度的实践阶段，而不到1%的企业处于“负责任AI先锋”阶段。未来，企业必须持续改进，扩展其负责任AI实践，以适应不断变化的AI风险和监管环境。