华为：2024年AI系统的网络安全治理实践报告_26页_4mb

防护视角下保护AI系统的网络安全实践

背景与挑战

人工智能（AI）技术的发展带来了巨大的机遇，同时也引发了网络安全的广泛关注。随着AI模型能力的增强，系统面临的数据投毒、对抗样本攻击、提示词注入、模型窃取等风险日益严重。华为公司基于全栈自研技术，积极响应AI安全治理需求，提出了一套系统化的安全实践框架。

华为AI网络安全治理

华为在AI系统的网络安全治理中采用了全生命周期风险管理的方法，覆盖设计、开发、部署、运行等阶段。公司建立了一套以“安全为本、合法合规、全员参与”为核心的治理原则，并通过独立验证、应急处理机制等措施确保合规与风险可控。

1. 合规与治理原则

• 覆盖国家与国际法规要求，华为通过全球法务部门持续追踪AI相关法律动态。
• 建立“治理 + 嵌入式管理”机制，实现AI安全与业务流程深度融合。
• 实施应急演练机制和成熟的危机响应体系，确保在安全事件发生时能快速响应。

2. AI安全测评与工程能力

华为建立了端到端的AI安全测评体系，涵盖数据安全、模型鲁棒性、算法后门检测等领域。公司通过安全验证与度量体系评估AI系统的合规性，并持续构建数据安全、模型安全、工程能力三大核心工程能力，例如：

• 数据安全：采用加密技术、密钥管理、权限最小化等。
• 模型安全：通过监督微调、对抗样本防御提升模型鲁棒性。
• 开放合作：与行业组织、监管机构沟通，推动AI安全标准的发展。

多层防护技术实践

华为提出构建五大防护屏障，实现从数据到输出的全方位安全防护。

1. 数据安全屏障

防止训练数据泄露和篡改，华为提出了AIGuard加密方案，结合本地加密、密钥管理、密态计算与可信执行环境（TEE）保障数据全生命周期安全。

2. 模型安全屏障

通过对齐训练、安全评测与模型加固，提升AI模型的抵抗能力。包括：

• 数据：构建多样化安全数据集，提升模型泛化能力。
• 算法：监督微调、对抗样本防御。
• 自动化安全性验证：覆盖多语言、多模态场景。

3. 应用安全屏障

防范智能体越狱、提示词注入等风险，包括安全围栏、意图检测与恶意代码防护系统。

4. 算力底座安全屏障

以硬件侧信道防御、容器可信隔离、TEE等多方技术支撑，保护AI计算环境安全。

5. 运营运维屏障

通过AI安全态势感知系统，实时识别异常行为模式，如对抗Tokens攻击、恶意提示给定等，确保模型输出合规可控。同时通过可信日志审计技术防止运维篡改。

总结与展望

华为基于全栈AI技术和生态的安全控制能力，通过严谨的全生命周期治理措施和分层防护技术，保障AI系统的安全可靠性。面对AI安全风险的复杂性及不断演化的威胁，华为呼吁跨领域合作，推动形成全球化治理体系，实现AI可持续发展。