2025生成式AI安全白皮书_28页_4mb

生成式AI安全白皮书总结

核心内容

本白皮书由火山引擎发布，全面阐述生成式AI在技术发展与业务应用中面临的安全风险及应对策略，强调生成式AI服务需具备“可信、可控、合规”的特性，构建全生命周期的安全保障体系。文档从模型层、数据层、应用层和治理层四个维度分析生成式AI的安全挑战，并提出火山引擎的AI安全解决方案。

主要观点

1. 生成式AI的安全责任

• 生成式AI安全需服务提供者与开发者共同维护。
• 安全责任与服务类型和模型构建方式密切相关。
• 火山引擎通过提供安全互信计算架构、合规资质与认证、数据安全与隐私保护等能力，与客户共担安全责任。

2. 安全风险分类

• 模型层风险：包括对抗攻击、提示词注入、模型投毒、越狱攻击等，需通过红队评测、策略护栏、推理时检测与响应等机制进行系统化治理。
• 数据层风险：数据污染、隐私泄露、越权访问等，需通过数据血缘、脱敏、分级分类等技术手段进行治理。
• 应用层风险：包括插件滥用、工具调用风险、跨租户数据穿透等，需通过意图识别、动态授权、异常行为审计与隔离等手段进行治理。
• 治理与合规风险：需将“可解释、可审计、可问责”嵌入产品，满足法律法规要求，如《生成式人工智能服务管理暂行办法》《人工智能生成合成内容标识办法》等。

3. 火山引擎生成式AI安全保障体系

• 三层级安全体系：包括AI基础设施安全、模型与平台安全、AI智能体安全。
• 技术保障：包括链路全加密、数据高保密、环境强隔离、操作可审计等能力。
• 安全互信计算架构：通过安全沙箱、加密存储、网络隔离、访问控制等技术手段，保障数据与模型的安全性。
• AgentArmor安全能力：提供运行时策略执行、上下文感知与动态策略、确定可验证与透明可解释、行为建模与信息流安全、防护链路与零信任范式等能力，实现对AI智能体的全面防护。

关键信息

1. 合规资质与认证

• 火山引擎已通过ISO/IEC 42001人工智能管理体系认证、ISO 27001信息安全管理体系认证、ISO 27701隐私安全管理体系认证等。
• 火山引擎提供的豆包大模型已完成算法备案与生成式AI服务备案，确保服务合规性。

2. 数据安全与隐私保护

• 火山引擎通过数据脱敏、加密存储、数据落盘即加密、安全沙箱等技术手段，实现数据的高保密性与隐私保护。
• 支持用户自持密钥（HYOK），保障数据安全与自主控制权。

3. AI智能体安全

• AgentArmor提供运行时策略执行、上下文感知、动态策略调整、确定可验证、透明可解释等能力，确保AI智能体运行过程的安全性。
• 支持多租户与单租户部署模式，降低数据泄露与合规风险。

4. 生成式AI安全趋势

• 安全左移：安全应贯穿AI开发全生命周期，从数据采集到模型训练、部署与运维。
• 体系化、智能化安全：应对复杂攻击手段，构建覆盖基础设施、模型、平台与智能体的纵深防御体系。
• 开放生态与责任共担：推动标准化安全接口、可信数据共享与开放威胁情报，实现行业协同应对安全挑战。

火山引擎的AI安全主张

火山引擎致力于成为可信、可控、合规的AI云原生基座，提供安全即服务的解决方案，保障用户数据与模型资产的安全。通过构建“技术领先、治理完善、生态开放”的AI安全能力，火山引擎推动行业安全生态的健康发展。

附录与联系方式

• 本白皮书内容的知识产权归属于火山引擎，未经授权不得复制、使用或传播。
• 如有疑问或发现错误，请联系火山引擎：
  • 邮箱：service@volcengine.com
  • 电话：400-850-0030（周一至周五10:00-18:00）