火山方舟大模型服务安全白皮书_60页_17mb

火山方舟大模型服务安全白皮书总结

核心内容

火山方舟作为模型即服务（MaaS）平台，致力于构建一个全周期安全可信、会话无痕的AI服务生态，确保数据隐私、模型安全、内容合规及业务连续性。平台通过技术与责任共担机制，保障用户在使用大模型服务时的安全与合规。

主要观点

• 安全威胁与挑战：大模型面临传统安全威胁（如DDoS攻击、系统漏洞）以及新型攻击（如提示词注入、模型投毒、隐私泄露等），需从基础设施、平台、模型和智能体等多层面进行防护。
• 数据安全：火山方舟强调“数据唯你可见、唯你所用、唯你所有”，提供端到端加密、沙箱隔离、密钥管理等机制，确保数据在传输、存储和使用过程中的安全性。
• 内容安全：构建全模态内容审核体系，识别并拦截违法违规、敏感信息、低质内容等，保障输出内容的合规性与可靠性。
• 合规责任：平台遵循《网络安全法》《数据安全法》《个人信息保护法》等法律法规，完成相关备案与认证，确保服务合法合规。
• 安全承诺与责任共担：火山方舟与客户共同承担安全责任，提供平台级安全机制与责任划分，确保客户在使用过程中获得全方位的安全保障。
• 安全可信保障体系：火山方舟通过可信安全沙箱、全链路加密、零信任架构、细粒度访问控制等技术手段，构建了安全可信的AI服务环境。
• MaaS原生安全能力：火山方舟将安全能力原生嵌入平台，支持机密推理、密钥服务、基线管理、远程证明等，实现“透明可验证”的信任机制。
• 业务连续性与应急响应：火山方舟具备完善的业务连续性管理、安全运营、漏洞管理、事件响应机制，保障服务稳定运行。

关键信息

安全威胁与落地挑战

• AI基础设施安全风险：包括算力滥用、网络隔离薄弱、供应链漏洞等。
• 模型与平台安全风险：数据泄露、内容安全、模型投毒、提示词注入等。
• AI智能体安全风险：提示词注入、工具滥用、第三方插件风险、多租户隔离等。
• 政策法规要求：包括《人工智能法案》、《生成式人工智能服务管理暂行办法》等，要求平台具备内容安全、算法公平、数据合规等能力。

数据安全机制

• 数据零留存：火山方舟不存储用户数据，除非法律法规或客户授权。
• 全链路加密：网络层、应用层、存储层均提供加密保护。
• 数据加密存储：用户数据集、模型数据均采用TOS服务端加密（SSE-TOS）或自持密钥（HYOK）进行加密。
• 沙箱隔离：使用可信安全沙箱技术（如vArmor）实现任务级资源隔离。
• 安全审计：提供多类审计日志，包括沙箱日志、用户操作日志、密钥访问日志等，实现可追溯与可审计。

内容安全保障

• 全模态审核：支持文本、图片、音视频等多模态内容审核。
• 分层风险识别：基于规则库与语料库，识别高危、红线、灰色内容。
• 输入输出双向审核：实时拦截风险输入，对输出内容进行后置校验。
• 动态风险检测：支持持续学习、规则更新、风险画像，实现对新型攻击的快速响应。

安全责任共担模型

火山方舟安全可信保障体系

• 可信安全沙箱：基于vArmor实现容器与网络隔离，保障模型运行安全。
• 机密推理服务：通过TEE技术实现推理数据的加密与隔离，提供远程证明机制。
• AICC机密计算能力：构建端云协同下的全链路安全计算与可信流通平台。
• 安全运营与事件响应：通过红蓝对抗、漏洞管理、应急响应机制，保障平台安全稳定。

安全能力与认证

• 合规资质：火山引擎大模型已通过算法备案、生成式AI服务备案、网络安全等级保护测评。
• 行业认证：获得多项国际与国内安全认证，推动AI安全生态建设。
• 参与标准制定：参与多项国家标准与行业规范的制定，如GB/T45652、GB/T45958等。

安全保障流程

• DevSecOps/SDLC：将安全能力融入开发、测试、上线等各阶段，实现“安全左移”。
• 软件供应链安全：对第三方组件进行安全评估与使用管理。
• 运维与事件响应：通过堡垒机、运维规范、安全告警等保障运维安全。

精调与推理安全

• 精调数据链路：用户上传数据集，平台加密处理与隔离访问，确保数据安全。
• 推理会话安全：通过沙箱、加密传输、缓存过期机制等，确保推理过程安全无痕。

火山方舟安全承诺

火山方舟致力于构建“全球合规、原生安全、客户信任”的安全可信保障体系，确保大模型服务在全生命周期中安全、可靠、可控。平台通过技术与责任共担机制，助力AI行业在安全可控的前提下实现可持续发展，护航智能时代稳步前行。