CSA大型语言模型（LLM）威胁分类（英）-30页_2mb

该文档由Cloud Security Alliance发布，旨在为大型语言模型（LLM）相关的AI安全控制框架提供基础术语和威胁分类，促进行业统一和研究支持。主要内容包括：

首先，文档定义了LLM的基础资产，如数据集（训练、验证、RA G数据）、模型参数（权重、超参数）和操作环境（云部署、安全措施），强调资产保护和风险管理的重要性。

其次，详细描述了LLM服务生命周期，从准备阶段（数据收集、资源规划）到部署、交付和退役，每个阶段涵盖关键活动和安全考虑，如数据处理、模型训练评估、连续监测和数据消除，确保服务安全高效。

第三，分类了LLM服务的影响类别，应用于CIA三角（保密性、完整性、可用性），并扩展到新兴风险如歧视、隐私损失。

核心是LLM服务威胁分类，列出九个主要威胁类别：模型操纵、数据投毒、敏感数据披露、模型盗窃、模型故障、不安全供应链、不安全应用/插件、拒绝服务、失去控制/合规。每个类别包含定义和潜在风险，旨在帮助企业识别和缓解威胁。

最后，文档呼吁开发风险缓解策略，结合实际案例和持续监测，以保护LLM应用的隐私、安全性和责任性，支持负责任的AI开发。

该文档可引导企业在使用LLM时实施系统性安全框架，确保模型可靠性和 resilience，适用于AI风险管理和合规场景。