20260428-中金公司-中金_AI十年展望_二十八_AI_网络安全_重塑数字世界的攻防范式_13页_3mb

中金 | AI十年展望（二十八）：AI+网络安全——重塑数字世界的攻防范式

核心内容

本报告探讨了AI技术在网络安全领域的双重角色：Security for AI（AI系统的安全防护）与AI for Security（AI技术赋能网络安全体系）。随着AI在企业办公、开发、安全运营与业务决策中的深度应用，安全风险从传统的数据泄露和权限失控，扩展到数据投毒、提示注入、上下文操纵、黑帽GEO及模型逆向攻击等新型风险。AI系统的脆弱点已从外围扩展到训练数据、提示词结构、知识来源、输出边界与运行时行为本身。

同时，AI正从辅助工具演变为重构安全产品形态与运营范式的核心引擎。通用大模型难以胜任高噪声、高专业度、强实时性的安全任务，因此安全厂商加速布局垂域模型，以提升威胁检测、攻击链还原、自动响应等能力，缓解“攻强守弱”的结构性矛盾。

主要观点

1. Security for AI：AI成为新的被保护对象

• AI系统本身成为安全防护的新目标，涵盖模型、数据、Agent、推理链路与工具调用权限。
• 主要安全风险包括：
  • 数据投毒：攻击者通过注入恶意样本或触发模式，干扰模型学习过程，改变其行为边界。
  • 提示注入：攻击者通过构造恶意提示，使模型忽略系统约束或安全策略，执行未授权任务。
  • 上下文操纵：伪造信源内容，污染模型参考信息层，影响其生成响应的准确性。
  • 模型逆向攻击：通过分析输入输出接口，反向推断训练数据中的敏感信息。

2. AI for Security：AI重构安全产品形态与运营范式

• AI正成为安全防御侧的核心生产力工具，提升告警降噪、攻击链还原、威胁预测与自动响应能力。
• 传统安全体系难以应对AI驱动的“规模化、自动化、链式传导”攻击特征，AI赋能安全产品将推动安全体系从“被动响应”转向“主动防御”。
• AI对安全产品的主要赋能方向包括：
  • 异常感知与未知威胁发现
  • 告警压缩与攻击链还原
  • 自然语言解释与报告生成
  • 自动化联动处置与闭环响应

3. AI+网络安全的政策支持

• 《中华人民共和国网络安全法》修订首次系统引入“人工智能安全与发展”内容，为AI+安全赛道提供政策端景气支撑。
• 政策导向明确，鼓励利用AI技术提升网络安全管理能力，推动AI安全成为国家战略方向。

4. 大模型与安全厂商的协同关系

• 安全厂商凭借多年积累的数据与行业经验，具备较强的客户粘性与竞争壁垒，难以被大模型“吞噬”。
• 大模型与安全厂商的合作大于竞争，共同推动安全能力进步。例如，CrowdStrike与Anthropic合作，将大模型用于安全产品优化与测试。

5. 安全垂域大模型成为破局核心

• 通用大模型难以满足网络安全场景的专业需求，安全垂域大模型成为构建安全能力基座的关键。
• 头部厂商正通过自研垂域模型，打破传统防御体系的效能瓶颈，形成更高效、更智能的安全防护能力。

关键信息

• AI安全风险已从传统IT系统扩展至AI系统本身，包括训练、部署、调用与输出阶段。
• 黑帽GEO通过操控模型输出认知方向，成为内容操控的重要手段，需加强信源辨识与事实验证能力。
• 模型逆向攻击揭示了模型可能成为训练数据的载体，输出接口是机密性泄漏窗口。
• AI for Security推动安全产品智能化升级，重点提升异常感知、告警压缩、自动响应与闭环能力。
• AI商业化路径包括分层订阅、算力计费、功能自动化等，海外厂商如CrowdStrike与Palo Alto已开始探索。

产业趋势

• 安全行业正从“能力验证期”进入“产品落地期”，竞争将聚焦“垂域模型+产品闭环+商业化兑现”综合能力。
• AI+安全已成为科技巨头与传统安全厂商的战略布局方向，通过并购与平台化产品实现技术融合。
• AISOC（AI驱动的安全运营中心）和NGSOC（下一代安全运营中心）将成为安全运营的新范式。

风险提示

• 行业竞争加剧，产品同质化与价格战可能压缩利润空间。
• AI安全商业化落地不及预期，客户付费意愿不足可能影响收入兑现节奏。
• 下游客户IT与安全预算持续承压，可能延缓新产品与新模块的采购节奏。

结论

AI正深刻改变网络安全行业，推动其从传统防御体系向智能化、主动化方向演进。Security for AI与AI for Security两条主线并行发展，共同构建AI时代的攻防新范式。安全厂商与大模型的协同合作，将加速安全能力的提升与产品落地，为AI安全商业化提供坚实基础。