20250217-北京阿萨卡信息技术-可信人工智能治理调研报告（2024-2025）_40页_17mb

可信人工智能治理调研报告（2024-2025）总结

核心内容概述

本报告围绕可信人工智能治理展开，分析了全球及中国在人工智能治理方面的现状、挑战与行业实践，并对未来治理框架与发展方向进行了展望。报告指出，人工智能已在多个行业中得到应用，但多数企业仍处于技术规划阶段，治理水平整体较低，存在投入与治理脱节、伦理重视不足、跨部门协作不畅等问题。

主要观点与关键信息

1. 企业人工智能应用现状

• 技术应用阶段：78.49%的企业认为人工智能应用“一般”或“相对普及”，仅21.51%处于后期成熟度评估或维护阶段。
• 应用场景：主要集中在客户服务和经营管理，较少用于研发设计与生产制造。
• 技术方式：多数企业依赖外部成熟产品（34%），少数采用私有数据训练小模型（28%）或与外部共建，完全自建大模型的企业仅占13%。
• 模型使用情况：OpenAI系列大模型使用最多（89个），其次是文心一言（63个）和通义千问（35个）等。
• 投入情况：企业投入两极分化，45%投入不足100万元，15%投入超过2000万元，多数企业认为投入基本满足需求（69%）。

2. 人工智能治理挑战

• 技术融合问题：算法复杂性、业务场景适配性低。
• 数据安全问题：数据隐私、数据可靠性、数据可用性与隐私平衡。
• 算法合规性问题：模型可解释性、算法公平性、知识产权等。
• 伦理问题关注度低：仅24.2%企业在选择模型时考虑伦理因素，但其重要性将逐步上升。
• 治理与投入无明显正相关：治理框架滞后，需加快设计与优化。

3. 行业治理实践

• 互联网行业：治理较为成熟，重点关注数据隐私、算法偏见、网络安全、知识产权等，采用“可控沙盒”机制。
• 医疗健康行业：面临数据一致性、算法透明性、数据封闭性等问题，通过审批流程、合同约束、事件响应机制等应对。
• 智能制造行业：面临智能化基础差异、实时性与准确性要求、成本问题及人员抵触，需提升通用性、优化算法、加强培训。
• 金融行业：重点关注数据安全、模型不透明性、模型欺诈等问题，采取数据加密、对抗训练、透明度提升等措施。

4. 行业治理对比总结

5. 全球治理现状与趋势

• 国际治理现状：欧盟采取以风险为导向的全面监管（《人工智能法案》），美国注重市场驱动与行业自律，英国倡导基于原则的治理模式。
• 中国治理现状：强调发展与安全并重，出台多项政策与标准，如《新一代人工智能发展规划》、《人工智能安全治理框架》等。
• 治理框架：DTEF、ISO/IEC 42001、NIST RMF等框架已初具成效，未来需增强动态适应性、全球化与本地化结合、治理自动化等。

6. 未来治理展望

• 治理责任明确：需跨部门协作，包括技术、法律、管理层与全体员工。
• 治理政策制定：应融合国际标准与本土法规，推动行业标准化治理框架。
• 技术与伦理平衡：提升算法公平性、透明性与可解释性，确保人工智能可持续发展。
• 闭环评估机制：涵盖模型性能、数据管理、伦理性和长期战略融合，需定期更新评估内容。
• 治理自动化：利用人工智能辅助工具进行风险评估、偏见检测与安全漏洞识别。
• 行业性治理建议：
  • 建立标准化治理框架与行业联盟；
  • 强化数据管理与隐私保护；
  • 推动伦理审核与治理机制；
  • 提升模型算法安全与系统防护；
  • 建立治理评估与认证机制。

结论

可信人工智能治理是实现技术创新与社会责任的平衡路径。未来，企业需加快治理框架设计，提升治理能力，推动跨部门协作与全员培训，同时关注伦理与合规。通过行业协同、标准化建设、政策完善与国际合作，构建一个安全、透明、公平的可信人工智能生态系统，将是实现人工智能技术造福社会的关键。