Capgemini-生成式人工智能与网络安全：经典之作（英）-2024-8页_2mb

生成式AI与网络安全：风险、框架与安全实践

一、生成式AI引入企业的核心风险
企业在采用生成式AI时面临两大根本矛盾：要么采取保守策略错失机遇，要么赋予更大自由度却暴露于新风险。其中数据风险尤为突出，主要源自三方面：

1. 保密/监管信息外泄
2. 不准确信息对决策/运营的干扰
3. 对话机器人作为客户接口引发的声誉风险

二、生成式AI系统的安全框架

1. 四维基础安全架构
   • 框架治理与风险管理
   • 数据与身份安全
   • 可信AI模型及其输出
   • 基础设施与应用监控

三、云服务商责任共担模型
各云服务商对生成式AI的安全责任范围存在差异：
亚马逊：提供基础设施，客户负责模型安全
谷歌云：覆盖从模型到数据的全栈责任
微软：承担从基础设施到应用接口的完整责任

四、数据安全核心措施

1. 数据生命周期管控：识别敏感数据并分级保护
2. 实施访问控制与验证机制
3. 推动跨职能协作：数据治理、安全、合规及法律团队需协同

五、模型风险与治理机制

1. 第三方模型需严格审计
2. 企业自研模型强化训练数据管控
3. 建立Generative AI卓越中心统筹治理

六、持续演化的安全实践
随着生成式AI发展，新型安全工具包括提示分析、红队测试等，需：
加强软件供应链管理
实施自动化治理
在开发流程中嵌入安全防护

Capgemini建议企业通过专业团队和合作伙伴建立可信生成式AI应用，重点把控数据安全、模型质量和持续监控，同时关注正在演化的AI安全能力发展。