美国国防创新部门发布《负责任的人工智能计划》-33页_2mb

总结：DIU的负责任AI指南（RAI Guidelines）

核心内容

Defense Innovation Unit (DIU) 作为美国国防部（DoD）中唯一专注于加速采用商业技术的机构，于2020年3月启动了一项战略倡议，将DoD的《人工智能伦理原则》整合进其商业原型和采购项目中。该倡议最终形成了《负责任人工智能指南》（RAI Guidelines），旨在为AI系统的开发、测试和部署提供清晰、高效、可操作的流程，以确保符合伦理要求，并实现公平、可问责和透明。

主要观点

• RAI指南的目标：确保AI项目在规划、开发和部署阶段均遵循DoD的伦理原则，同时避免潜在的负面影响。
• 指南的结构：分为三个主要阶段——规划、开发和部署，每个阶段都包含具体的问题和行动步骤。
• 指南的适用性：适用于所有涉及AI的项目，无论是预测健康、水下自主系统，还是供应链分析等。
• 指南的特性：以可操作性为核心，而非抽象的政策工具；具有现实性、适应性和启发性，鼓励讨论和反思。

关键信息

伦理原则概述

DoD的AI伦理原则包括以下五个方面：

• 负责任：确保AI系统的开发、部署和使用符合道德标准。
• 公平：避免AI系统中的偏见，确保其对所有人公平。
• 可追溯：确保AI系统的开发过程、数据来源和设计文档透明可审计。
• 可靠：确保AI系统在定义的使用场景中安全、有效且可测试。
• 可治理：确保AI系统在运行过程中能够被控制、调整和停用。

RAI指南的三个阶段

规划阶段

• 任务定义：明确任务、性能指标和评估基准。
• 数据评估：确保数据的代表性、准确性和可追溯性。
• 利益相关者识别：明确最终用户、利益相关者和责任主体。
• 危害建模：评估模型错误可能带来的影响，尤其是对患者群体的潜在危害。
• 回滚机制：定义系统故障时的回滚流程，确保系统可恢复。

开发阶段

• 数据与模型保护：制定防止数据或模型被操控的计划，并明确责任人。
• 性能监控：建立系统性能和部署后监控的流程，确保系统持续可靠。
• 角色分配：明确谁可以对系统进行变更和认证。
• 输出验证：设计用户可理解的系统界面，以便追踪和验证输出。
• 审计流程：为政府和第三方审计指定角色和流程。

部署阶段

• 持续验证：对任务和数据进行持续的验证，确保其有效性与安全性。
• 功能测试：确保系统在实际操作中仍能完成预期任务。
• 危害评估：持续评估对利益相关者的潜在影响，并采取必要的缓解措施。
• 质量控制：确保系统在实际使用中符合性能标准，及时修正偏差。

实践案例

预测健康项目

• 合作方：DIU、联合人工智能中心、国防部卫生局、谷歌、Jenoptik、Enlitic。
• 目标：将先进的机器学习能力引入军事医疗机构，用于医学影像分析。
• 应用RAI指南：
  • 在规划阶段，明确以“周转时间”为评估指标，确保模型能识别需紧急处理的病例。
  • 识别并纳入利益相关者，包括临床医生、患者、公共卫生专家等。
  • 进行危害建模，防止模型错误导致患者延误治疗。
  • Enlitic采用多类测试、年龄分层和美国案例数据来增强模型的可靠性。
  • FDA的参与确保了模型的可追溯性和可治理性。

附录与资源

• 附录中包含详细的工作表，用于指导项目执行团队、商业供应商和政府合作伙伴在每个阶段如何应用RAI指南。
• 工作表和流程图相互配合，确保每个阶段的问题被充分回答后再进入下一阶段。
• RAI指南作为伦理实践的起点，未来将与政府、行业、学术界和民间社会的专家持续合作，进行迭代优化。

结论

DIU的RAI指南为DoD在AI系统开发和部署过程中提供了可操作的伦理框架，帮助确保AI技术在军事应用中的公平性、透明性和可靠性。该指南不仅提升了AI系统的质量，还促进了整个DoD在伦理AI方面的实践能力。通过实际案例的验证，RAI指南已被证明是实现负责任AI的重要工具，其应用有助于推动AI技术在国防和国家安全领域的健康发展。