世界经济论坛-将人工智能采购解包在一个盒子里：来自实施的见解（英）-2022.5-34页_16mb

详细总结：AI Procurement in a Box 白皮书

核心内容

本白皮书旨在总结“AI Procurement in a Box”工具包在公共部门实施中的关键经验，特别是巴西的两个试点项目：Metro de São Paulo 和 Hospital das Clínicas。该工具包由世界经济论坛与英国政府、德勤和Splunk合作开发，旨在通过更敏捷的采购流程促进公共部门对AI/ML技术的采用，并推动创新。

主要观点

• AI技术在公共部门的潜力与风险：AI在政府服务如税务、执法、医疗和教育中具有巨大潜力，但也伴随着偏见和歧视等风险，需要有效的风险缓解策略。
• 采购流程的创新：AI Procurement in a Box 提供了一种灵活的采购流程，帮助政府机构以负责任和高效的方式采购AI技术。
• 公共信任与问责机制：通过政策工具如算法影响评估、认证和采购流程改革，政府可以建立信任并确保AI的伦理使用。
• 全球南部分国家的挑战：全球南部分国家在AI治理框架、技术成熟度和数据治理方面存在不足，需要定制化的解决方案。
• 内部开发与采购的平衡：许多国家的AI系统来源于内部开发或非商业合作，这表明需要加强内部能力和数据治理，以确保AI技术的伦理和安全使用。

关键信息

1. 工具包实施背景

• 全球推广：自2020年6月发布以来，AI Procurement in a Box 已在全球多个国家实施，包括英国、巴林、阿联酋和印度。
• 巴西试点项目：在巴西，该工具包被应用于Metro de São Paulo 和 Hospital das Clínicas，以探索其在公共部门的适用性。
• 试点成果：试点项目强调了采购AI工具时需要伦理和效率指导的重要性，也揭示了在公共部门广泛使用AI时面临的额外挑战。

2. AI采购的关键阶段：Phase Zero

• 基础设施、数据与机构成熟度：政府在采用AI/ML技术前，必须评估其IT基础设施、数据质量和机构能力。
• 数据治理与IT架构：需要建立数据湖、统一数据管理流程，并推动数据治理文化。
• 人员与组织变革：政府应加强IT人才的招聘与培训，并通过组织结构调整来支持数字化转型。

3. 公共信任与问责机制

• 政策工具的使用：包括算法影响评估、认证和创新采购机制，以确保AI的负责任使用。
• 伦理与透明度：政府应建立问责和透明机制，以减少算法偏见和人为偏见带来的风险。
• 挑战与应对：在大多数司法管辖区，创新采购流程被视为例外，而非常态，这增加了风险规避的问题。

4. AI采购的成功指标

• 成功标准：AI采购项目的成功应基于六个支柱，包括技术、伦理、治理、效率、透明度和社会影响。
• 评估框架：需要全球统一的监控与评估框架，以支持不同国家和地区的项目比较和最佳实践传播。
• 全球南部分国家的适应性：由于数据治理、技术能力和监管框架的不足，AI Procurement in a Box 需要针对这些地区进行本地化调整。

5. 公共采购与内部开发的对比

• 内部开发的普遍性：许多国家的AI系统来源于内部开发或非商业合作，如美国联邦政府的84个AI工具中有53%是内部开发。
• 能力差距：政府往往缺乏足够的内部能力和数据资源，难以调整和优化AI模型。
• 采购流程的重要性：通过公共采购，政府可以影响市场，推动伦理和安全的AI发展。

结论

• AI Procurement in a Box 是一种务实的指南，旨在促进公共部门对AI技术的采用。
• 该工具包在巴西试点中展示了其在不同场景下的适用性，但也揭示了全球南部分国家在实施过程中面临的挑战。
• 未来需要进一步研究，以增强工具包的适应性，并确保AI技术在全球范围内被负责任地使用。

附录

• 巴西试点项目挑战与成果：
  • Metro de São Paulo：采用创新采购流程，部署预测性维护AI系统，使用算法影响评估工具。
  • Hospital das Clínicas：整合60多个IT系统，建立数据湖，推动数据治理和伦理评估。
• 数据成熟度与治理：数据质量和治理是AI成功的关键因素，需要政策支持和内部能力建设。
• 全球AI治理现状：许多国家尚未建立成熟的AI治理框架，导致技术采纳不均衡。
• 工具包的未来方向：工具包需进一步本地化，以适应不同国家的法律、技术和文化背景。