世界经济论坛-聊天机器人重置框架：卢旺达人工智能（AI）分类试点（英）-2022.3-25页_1mb

总结：Rwanda AI Triage Pilot 与 Chatbots RESET 框架

核心内容

Rwanda 作为人工智能在医疗领域负责任应用的先驱，于 2021 年试点了 World Economic Forum 发布的 Chatbots RESET 框架，以确保 AI 三甲分诊工具（AI Triage Baby Call Centre）的负责任使用。该试点项目旨在验证框架的实用性，并推动 AI 在医疗领域的安全、透明和可问责应用。

主要观点

• Chatbots RESET 框架 是一个由 World Economic Forum 与多方利益相关者共同开发的“软治理”工具，用于指导 AI 在医疗中的负责任使用。
• 框架包含 10 项核心原则 和相应的 实施行动，为技术开发者、医疗提供者和监管机构提供明确的指导。
• Rwanda 试点选择实施了 安全、问责和透明 三项原则，以确保 AI 三甲分诊工具在本地化医疗环境中的有效性和合规性。
• AI 三甲分诊工具通过 贝叶斯网络与基于规则的安全机制 的结合，为医疗专业人员（如护士）提供标准化的分诊建议。
• 试点项目通过与医疗、技术及监管专家组成的项目社区合作，确保治理流程的完善和落地。

关键信息

1. Chatbots RESET 框架概述

• 框架内容：包含 10 项原则和具体行动，涵盖 AI 在医疗中的安全、透明、问责等关键方面。
• 适用对象：技术开发者、医疗提供者和监管机构。
• 目标：确保 AI 在医疗领域的负责任使用，提升患者护理质量与可及性。

1.1 原则

• 安全/非伤害：确保 AI 不会导致可避免的伤害或不良后果，如欺骗、成瘾或忽视多样性。
• 问责：指定组织内的实体负责 AI 的治理，确保 AI 的结论和建议可审计。
• 透明：用户应始终清楚其是否在与 AI 或人类交互，AI 应明确告知其性能限制。

1.2 行动

• 为每个原则制定具体的行动指南，如：
  • 建立临床安全计划
  • 确保 AI 输出的可追溯性
  • 提供用户清晰的透明信息
  • 通过反馈机制持续优化 AI 系统

2. Rwanda 试点项目

• 试点背景：Rwanda 是全球首个将 AI 三甲分诊服务整合进全民健康保险体系的国家之一。
• 服务内容：Babylon 与 Rwanda 政府合作，通过 Babel 提供 AI 三甲分诊服务，帮助护士更高效地处理患者信息。
• 技术基础：AI 三甲分诊工具基于 贝叶斯网络 和 基于规则的安全机制，结合了 Rwanda 的本地化数据，包括语言、流行病学、文化和医疗路径。
• 服务范围：主要覆盖 Rwanda 常见的初级医疗状况，不包括妊娠、部分精神健康和皮肤科问题。
• 用户群体：面向所有年龄段的患者，由经过培训的护士操作，最终目标是让患者直接使用该服务。

3. 试点经验与挑战

3.1 试点目的

• 验证 Chatbots RESET 框架在医疗场景中的实用性。
• 通过本地化视角，推动 AI 在医疗中的负责任应用。

3.2 试点成果

• 通过实施框架中的三项原则，确保了 AI 三甲分诊工具的安全性和透明性。
• 提升了医疗护理的标准化和效率，支持护士更快地做出分诊决策。
• 使 AI 技术可被非智能手机用户访问，扩大了服务的可及性。

3.3 挑战与机遇

• 挑战：
  • 复杂病例的管理（如多病共存情况）。
  • 建立医疗专业人员和用户对 AI 的信任。
• 机遇：
  • 标准化医疗护理，确保高质量、准确的分诊建议。
  • 提高医疗服务的可及性和经济性，尤其随着智能手机普及。
  • 自动化医疗管理流程，便于医生获取患者信息。

4. 治理过程

• 治理框架：将 AI 三甲分诊工具纳入整体组织治理结构，确保安全与创新的平衡。
• 临床安全计划：用于识别、评估和管理 AI 三甲分诊服务的风险。
• 支持文档：
  • 风险日志（Hazard Log）
  • 临床安全案例报告（Clinical Safety Case Report）
• 持续维护机制：
  • Triage 维护发布流程
  • Rwanda 临床门户维护发布流程

5. 反馈与最佳实践

• 反馈：
  • 试点项目验证了 Chatbots RESET 框架在医疗场景中的有效性。
  • 本地化实施对确保 AI 在不同文化背景下的适用性至关重要。
• 最佳实践：
  • 通过多方合作构建治理机制。
  • 本地化 AI 技术以适应特定国家的医疗环境。
  • 持续收集反馈并优化系统，确保 AI 服务的安全性和实用性。

结论

Rwanda 试点项目展示了 Chatbots RESET 框架在医疗 AI 应用中的实际价值，特别是在资源有限的环境中。通过将 AI 三甲分诊服务整合进国家健康保险体系，试点不仅提升了医疗服务的效率，也为全球范围内 AI 在医疗领域的负责任使用提供了可借鉴的模式。未来，Rwanda 计划进一步推广该工具，使其成为全国医疗体系的一部分，最终惠及普通患者。