> **来源：[研报客](https://pc.yanbaoke.cn)** # 企业AI安全：AI代理的采用与治理挑战 ## 核心内容 本报告探讨了AI代理在企业环境中的采用情况、安全风险、治理挑战及未来展望。随着AI代理的广泛应用，其对传统安全和治理模式提出了新的要求。报告指出，AI代理的使用已从实验阶段转向核心运营，但安全和治理实践尚未完全适应其自主性和动态性。 ## 主要观点 - **AI代理已广泛采用**：43%的组织报告称，超过一半的员工定期使用AI代理，表明AI代理已成为企业日常工作的关键组成部分。 - **多平台部署增加复杂性**：大多数组织（44%）使用两到三个平台，43%使用四个或更多平台，这导致在制定统一安全策略时面临挑战。 - **影子AI代理初现**：54%的组织报告称拥有1至100个未经授权的AI代理，反映出AI代理的去中心化采用趋势。 - **范围违规成为常态**：53%的组织表示AI代理偶尔或有时会超出预期权限，表明范围违规已成为运营中的常见现象。 - **安全事件频发且响应缓慢**：47%的组织在过去12个月内经历过与AI代理相关的安全事件，检测和响应通常需要数小时甚至数天。 - **治理政策不完善**：仅有31%的组织正式采用AI代理治理政策，其余则部分执行或尚未建立，显示出治理工作的不成熟。 - **合规成为默认选择**：由于缺乏全面的内部治理框架，组织普遍依赖外部合规框架，如HIPAA、NIST AI风险管理框架和SOC 2/ISO 27001，但仅13%的组织表示已为未来法规做好充分准备。 - **安全信心不足**：仅16%的组织表示对检测和响应AI代理相关事件高度自信，而44%则表示信心较低或没有信心。 - **运营挑战突出**：合规性是管理AI代理时面临的最大挑战，其次是缺乏明确的所有权和行为控制。 ## 关键信息 ### 采用情况 - **员工使用率**：43%的组织报告称超过一半的员工定期使用AI代理。 - **使用范围**：AI代理被广泛用于IT（53%）、安全（37%）、客户服务（34%）和工程（34%）等职能。 - **平台数量**：43%的组织使用四个或更多平台，44%使用两到三个，5%使用单一平台。 ### 安全与风险 - **主要安全风险**： - 提示注入（29%） - 成本滥用/失控调用（28%） - 不安全工具使用（16%） - 信息泄露（24%） - 多代理风险（12%） - 横向移动（6%） - 破解/政策规避（21%） - 不安全内存（11%） - 数据外泄（20%） - 工作流/编排器漏洞（8%） - 权限过高的代理（19%） - 不安全代码执行（7%） - 不确定（2%） - **安全事件频率**：47%的组织在过去12个月内经历过与AI代理相关的安全事件。 - **响应时间**：平均检测和响应时间从数小时到数天不等，38%的组织表示为5至24小时，20%表示持续一天或更久。 - **安全工具信心**：仅16%的组织对当前工具检测AI代理威胁的能力高度自信。 ### 治理与合规 - **所有权定义模糊**：仅15%的组织报告称76%至100%的AI代理具有明确定义的所有权，最常见的范围是26%至50%（34%）。 - **治理政策执行不一致**：31%的组织正式采用治理政策，50%部分执行，12%没有政策，6%不确定。 - **合规框架影响**：HIPAA（43%）、NIST AI风险管理框架（37%）和SOC 2/ISO 27001（34%）是影响最大的合规框架。 - **合规准备度低**：仅13%的组织表示为即将出台的AI相关法规做好了充分准备，49%表示准备不足。 ### 运营挑战 - **主要挑战**：合规性（33%）、检测和响应能力（27%）、所有权不明确（19%）、不安全行为（16%）、政策执行不一致（12%）等。 - **行为可追溯性不足**：仅28%的组织能够在所有环境中追溯代理行为，46%仅在部分环境中具有可追溯性，其余则缺乏或不确定。 ### 未来展望 - **投资优先事项**：AI代理的安全、治理、监控、行为边界等是未来投资的重点。 - **预期增长**：多数组织预计到2026年底将拥有更多AI代理，其中部分组织计划部署超过100个。 - **技术兴趣**：多模态代理、实时监控、自动化响应等是组织最感兴趣的新技术。 ## 结论 AI代理正迅速成为企业运营的核心组成部分，其采用速度远超安全和治理措施的成熟度。这导致了广泛的可见性、所有权和控制力的缺失，进而影响了安全事件的检测与响应效率。为应对这些挑战，组织需要建立与AI代理自主性和互联性相适应的治理和安全框架，以确保在创新的同时不牺牲安全性。