20260624-云安全联盟-Enterprise_AI_Security_Starts_With_AI_Agents_29页_6mb

报告摘要

本报告探讨了AI代理在企业环境中的采用情况、安全风险、治理挑战及未来展望。随着AI代理的广泛应用，其对传统安全和治理模式提出了新的要求。报告指出，AI代理的使用已从实验阶段转向核心运营，但安全和治理实践尚未完全适应其自主性和动态性。

AI代理已广泛采用：43%的组织报告称，超过一半的员工定期使用AI代理，表明AI代理已成为企业日常工作的关键组成部分。
多平台部署增加复杂性：大多数组织（44%）使用两到三个平台，43%使用四个或更多平台，这导致在制定统一安全策略时面临挑战。
影子AI代理初现：54%的组织报告称拥有1至100个未经授权的AI代理，反映出AI代理的去中心化采用趋势。
范围违规成为常态：53%的组织表示AI代理偶尔或有时会超出预期权限，表明范围违规已成为运营中的常见现象。
安全事件频发且响应缓慢：47%的组织在过去12个月内经历过与AI代理相关的安全事件，检测和响应通常需要数小时甚至数天。
治理政策不完善：仅有31%的组织正式采用AI代理治理政策，其余则部分执行或尚未建立，显示出治理工作的不成熟。
合规成为默认选择：由于缺乏全面的内部治理框架，组织普遍依赖外部合规框架，如HIPAA、NIST AI风险管理框架和SOC 2/ISO 27001，但仅13%的组织表示已为未来法规做好充分准备。
安全信心不足：仅16%的组织表示对检测和响应AI代理相关事件高度自信，而44%则表示信心较低或没有信心。
运营挑战突出：合规性是管理AI代理时面临的最大挑战，其次是缺乏明确的所有权和行为控制。

主要安全风险：
- 提示注入（29%）
- 成本滥用/失控调用（28%）
- 不安全工具使用（16%）
- 信息泄露（24%）
- 多代理风险（12%）
- 横向移动（6%）
- 破解/政策规避（21%）
- 不安全内存（11%）
- 数据外泄（20%）
- 工作流/编排器漏洞（8%）
- 权限过高的代理（19%）
- 不安全代码执行（7%）
- 不确定（2%）
安全事件频率：47%的组织在过去12个月内经历过与AI代理相关的安全事件。
响应时间：平均检测和响应时间从数小时到数天不等，38%的组织表示为5至24小时，20%表示持续一天或更久。
安全工具信心：仅16%的组织对当前工具检测AI代理威胁的能力高度自信。