生成式AI安全白皮书_28页_5mb

生成式AI安全白皮书总结

核心内容

生成式AI技术正在快速改变企业生产力与业务流程，但其发展也伴随着一系列安全风险与挑战。火山引擎作为AI云原生基础设施的提供者，致力于构建一套“可信、可控、合规”的AI安全保障体系，涵盖模型、平台与智能体三层级安全能力，以应对生成式AI带来的安全问题。

主要观点

• 生成式AI安全是系统性工程：需要从模型层、应用层、数据层及治理与合规层进行全方位治理，形成覆盖AI全生命周期的安全闭环。
• 安全责任共担：火山引擎与客户共同承担生成式AI服务的安全责任，通过平台能力保障基础安全，同时客户需关注数据合规、内容安全与访问控制。
• 技术与合规并重：火山引擎通过ISO/IEC等多类国际国内认证，确保平台安全合规能力达到行业领先水平。
• 数据隐私保护是核心：通过加密存储、传输、访问控制、数据脱敏等技术，保障用户数据不被泄露。
• AI安全需左移：从数据采集、模型训练到应用部署，安全需贯穿始终，形成“AI-Native”安全开发运维模式。

关键信息

生成式AI安全风险

1. 模型层风险：包括对抗样本、提示词注入、模型泄露等。
2. 应用层风险：涉及插件、工具调用、权限管理、供应链安全等。
3. 数据层风险：训练与推理数据污染、隐私泄露、数据提取攻击等。
4. 治理与合规风险：需满足内容安全、数据标识、备案合规等要求。

火山引擎安全保障体系

1. 合规资质与认证：

   • 完成算法备案与生成式AI服务备案。
   • 通过ISO/IEC27001、ISO/IEC27701、ISO42001等国际标准认证。

2. 数据安全与隐私保护设计理念：

   • 链路全加密：支持mTLS与HTTPS，保障传输安全。
   • 数据高保密：采用多层级加密，支持HYOK，确保数据机密性。
   • 环境强隔离：通过容器沙箱、网络隔离与可信硬件保障数据安全。
   • 操作可审计：提供多类审计日志，支持合规审查与异常溯源。

3. 生成式AI安全技术保障体系：

   • AI基础设施安全：涵盖固件资产管理、硬件可信根、可信执行环境等。
   • 模型与平台安全：包括模型生命周期安全、数据标注、预训练与后训练等环节的合规与安全管控。
   • AI智能体安全：通过AgentArmor实现行为零信任、上下文感知、动态策略调整、行为建模与信息流安全等。

火山方舟安全互信计算框架

• 提供机密推理、数据脱敏、加密存储等能力。
• 支持PD分离、硬件级隔离、远程证明、零信任网络等。
• 保障用户数据在云端的“唯客户所见、唯客户所用、唯客户所有”。

AgentArmor安全加固能力

• 运行时策略执行：实时干预与事后审计结合。
• 上下文感知与动态策略：根据任务场景动态调整安全策略。
• 确定可验证与透明可解释：确保安全决策可追溯与可解释。
• 行为建模与信息流安全：通过程序依赖图与类型系统进行安全评估与干预。

行业安全展望

1. 安全左移与AI-Native安全开发运维（DevSecOps）：安全需从数据采集、模型训练、应用开发到部署运维贯穿始终。
2. 从“单点防御”走向“体系化、智能化”：AI技术将被用于构建更智能的威胁检测、风险研判与事件响应体系。
3. 开放生态与责任共担：安全生态建设需多方协作，标准化接口、可信数据共享与开放威胁情报将推动行业安全发展。

火山引擎安全主张

火山引擎致力于为客户提供安全、合规、可信的AI云原生基座，通过技术领先、治理完善、生态开放的AI安全能力，推动生成式AI在各行业安全落地。

附注

• 本白皮书内容受知识产权保护，未经授权不得复制、使用、修改或传播。
• 火山引擎保留根据“现状”和“当前可用”提供产品和服务的权利。
• 如有疑问或发现错误，请联系火山引擎：service@volcengine.com 或 400-850-0030（工作日10:00-18:00）。