20250919-美国国家标准与技术研究院-SP_800-53安全人工智能系统控制叠加概念文件_7页_512kb

NIST SP 800-53 AI安全控制叠加层总结

背景

NIST开发了控制叠加层（COSAIS），基于SP 800-53安全控制措施，以帮助组织安全地设计、开发和部署人工智能系统。这源于AI技术的快速进步带来的新机遇和网络安全风险。AI系统引入独特的安全挑战，其安全性依赖于基础IT基础设施。NIST旨在提供以实施为重点的指导方针，补充现有的AI RMF和资源，通过控制叠加层实现定制化的风险管理。

核心概念

• 目的: COSAIS允许组织根据特定AI用例、系统组件和风险定制SP 800-53控制措施。控制项可选择、修改或补充，以优先关键控制，确保一致的安全实施。
• 优势: 为AI开发者、组织用户提供灵活性，同时整合现有框架（如AI RMF），覆盖AI的独特风险，而不提供完整控制集，假定基本政策和技术控制已到位。
• 与SP 800-53的关联: SP 800-53提供共同的安全基础，叠加层则用于定制化实现，确保AI系统的特定需求。

主要控制叠加层用例

COSAIS覆盖多个AI应用场景：

• 用例1: 生成式AI（如LLM助手）: 定制控制来保护内部和第三方托管LLM，处理数据机密性、完整性和可用性。
• 用例2: 预测AI: 针对模型训练、部署和维护阶段的风险，涵盖第三方和本地部署场景，优化决策流程中的安全。
• 用例3: AI代理系统（单代理）: 例如企业副驾和编码助手，控制叠加层处理自主决策、数据访问和任务执行的安全。
• 用例4: AI代理系统（多代理）: 处理多代理交互的复杂风险，目前较不成熟，但预期作为未来发展方向。
• 用例5: AI开发者: 专注于保护模型工件、缓解对抗性攻击，基于NIST的SSDF指南（SP 800-218A）和滥用风险管理。

相关NIST资源

COSAIS整合了SP 800-53、SP 800-218A、AI 100-2e（如对抗机器学习攻击），以及草案AI 800-1。这些资源指导控制选择，使叠加层与AI RMF兼容，管理AI独特风险，如可解释性、隐私和有效性。

参与和下一步

NIST邀请社区通过Slack频道或电子邮件（overlays-securing-ai@list.nist.gov）提供反馈，重点是用例覆盖范围、架构缺口和优先级。NIST将基于反馈开发覆盖层库，目标在2026财年发布首个公开征求意见稿，并举办公开研讨会以促进交互。