开箱吧_腾讯云大模型安全发布会材料_25页_4mb

大模型安全防护

大模型面临的主要安全风险包括：输入层攻击如提示注入、密钥劫持和多模态内容攻击；数据层风险包括训练数据投毒和敏感信息泄露；输出层风险包括不当内容生成和模型盗窃与滥用；治理风险包括资源滥用和法律法规限制。

各国政策监管：欧盟《人工智能法案》、新加坡《人工智能系统安全指南》、美国《生成式AI权利法案蓝图》及《风险管理框架》、日本《生成式AI治理框架》、中国《生成式人工智能服务管理暂行办法》及《安全基本要求》，均要求企业遵循伦理规范，保障数据安全。

腾讯云提供了大模型安全防护网关，支持实时检测提示词攻击、算力滥用和数据泄露风险。其核心能力包括：

• 智能防护：拦截提示词注入、数据泄露，支持多模型接入和自定义安全策略。
• 内容过滤：基于混淆式大模型能力检测不当信息，并分类（如政治、色情、违法等）。
• 敏感信息保护：集成身份证、手机号、社保号等敏感数据防护引擎。
• 业务安全：提供提示词风险防控、自动化访问验证及动态令牌。
• 资产安全：资产梳理、事件管理及异常行为监控，保障大模型计算资源和业务稳定。

应用场景案例：

• 金融行业：通过指令白名单、敏感数据防泄露保障交易安全和合规。
• 内容平台/泛互行业：减少爬虫攻击、防止不良内容生成，维护社区声誉。
• 零售行业：防止黑灰产（如刷券、薅羊毛）、保护用户数据。

腾讯云云安全中心大模型态势管理通过资产识别、风险检测、攻击监控，提供：

• 资产识别：扫描公网和主机安全，识别大模型应用及漏洞。
• 风险检测：集成网络扫描、主机检测、漏洞扫描等技术，识别组件风险。
• 攻击监控：解析攻击行为，输出异常流量和趋势分析。

总结：大模型安全需结合技术防护与政策合规。腾讯云解决方案覆盖全生命周期防护，适用于多行业场景，保障大模型在合规、稳定、高效环境下的使用。