Zscaler：2024年AI安全报告_38页_49mb

核心洞察：当前全球AI应用与安全格局

AI工具爆发式增长（2023年4月至2024年1月）

• 全球企业AI/ML交易量增长近600%，月活量达到30亿级别。
• ChatGPT日均交易量增长634%，占据总体份额超过一半。
• 数据总量激增，光AI工具发送、接收的企业数据总量就达到569TB。

行业与国家分布

• 制造业、金融保险、技术服务是企业AI应用的前三大行业，分别贡献了超过20%、19%和16%的总体交易量。
• 地理分布上，美国贡献近41%的整体AI交易量；印度贡献近一半的亚太（APAC）AI交易量；英国在欧洲、中东和非洲（EMEA）地区占到20%以上份额。

企业面临的AI安全挑战

• 全球平均18.5% 的AI交易被阻止，达到567% 的增长。
• 金融保险行业限制最为严格，高达37%的交易被阻止，这与其严格的合规要求以及处理高度敏感数据相关。
• 医疗保健行业采纳意愿高，整体贡献5.5%的AI交易量，但其机构确实在AI领域平均只阻挡了17.2% 的交易，体现出对AI应用的滞后性适应。

主要AI威胁场景（实证分析）

• AI生成的网络钓鱼和社交工程攻击：利用ChatGPT等工具快速生成具有高度说服力的钓鱼登录页面。
• AI驱动的恶意软件与勒索软件：AI加速了漏洞扫描、攻击面发现和恶意软件规模化部署。
• 深度伪造（Deepfake）与身份假冒：电话（vishing）、邮件（smishing）等诈骗手段日益精细化，有时可能愚弄通常适用多因素认证、多人群视频会议的企业核对机制。

核心问题与应对策略

数据泄露与隐私风险

• 生成式AI工具的使用增大了无意数据泄露风险，反映出内部访问控制不足、训练数据被滥用、模型倒推（Model Inversion）与训练数据投毒等问题。
• 关键问题是**“垃圾数据，输出垃圾结果”**，需要确保AI模型本身的高质量、大规模数据输入。

允许AI vs 阻止AI的两难境地与风险控制方法

• 如何平衡生产力与数据安全，需要解答关键问题：
  • 可见性：是否能全面监控员工使用哪些AI工具？
  • 访问控制：能否实施精细、有深度的AI应用访问权限控制？
  • 数据安全措施：是否了解不同AI工具在数据保护方面的能力？
  • 防泄露机制：是否启用数据丢失防护（DLP）阻止重要信息外泄？
  • 日志记录：是否对AI提示词和应用使用有系统化的记录？

大型机构（以Zscaler为例）的应对方案（细粒度控制）

• 初始阻断策略：先行全面禁止企业层面访问AI工具，建立牢固防线。
• 选择性审批：筛选出符合高质量数据保护标准与带宽规模化的平台，如ChatGPT，进行事前评估。
• 建立私有服务器实例：将ChatGPT安放在公司内部署的Azure等专用服务器，实现物理级数据隔离。
• 移动到零信任架构后端：通过Zscaler Zero Trust Exchange等云网关设置强身份验证与微分段策略，控制访问权限。
• 启用DLP引擎防护：拦截那些不应与AI共享的敏感文本、代码、财务、客户及个人数据。
• 基于AI的行为洞察及技术细分策略：
  • AI沙箱检测：自动识别并阻断99.99%以上的可疑应用访问路径。
  • AI路由隔离技术：为高风险链接创建加密隔离环境，既用第三方核心工具通过安全途径访问。

Zscaler提出的整体零信任AI安全理念
其主张通过AI技术构建从源头探测到数据保护结束的闭环网络安全，具体体现在：

• 攻击面主动隐藏（ASD）：阻止入口点暴露，将关键应用/服务置于零信任代理之后。
• 决定性AI防护引擎（AI Instant Verdict）：立刻识别高自信的恶意文件，无需等待分析，保障效率。
• 智能化浏览器隔离验证：所有网页在隔离单元中渲染图像，防止恶意代码执行，同时限制拷贝/上传/下载。
• 被盗数据全生命周期防护（AI数据发现与分类DLP）：自动识别企业核心数据，并采用Zscaler平台的DLP机制，当提及差旅预订、信用卡等敏感信息时自动封堵。

关键预测趋势及政策反应（2024年）

预测

• 国家和地缘政治力量将会继续在其利益范围内部署AI武器。
• AI恶意应用（如“WormGPT”）将大幅增长于暗网，成为网安持续斗争对象。
• 深度伪造、AI信息操控将会更加高效地传播虚假内容；垃圾数据导致训练模型失效的风险将显著升高。
• 利用AI“以AI反制AI”开发新颖防御模型会成为安全行业核心路线。

法规进展

• 美国：紧急智囊团已表态施压，奥巴马科研基金扩大开放性AI资源部署。
• 欧盟：刚刚批准全球首个全面AI法案，按风险等级差异划分规则，必要时全面封禁某些AI应用。
• 全球：至少观察到1600项国家级/联盟AI政策，涵盖监管/标准/投资/计划等类型，表明各国正加速制定AI合规规则。

总结

人工智能正深度嵌入企业运营，潜力巨大，但随之而来的威胁也更为严峻，包括网络安全、身份伪造、数据滥用等。企业在拥抱AI应用时，必须制定科学、细致的风险管理办法，通过零信任架构、深度学习复用于检/防、精细化访问控制以及强大的数据治理与隐私保护等手段，在探索前沿生产力变革的同时，确保组织数据资产与员工用户信息安全、合规。监管框架日趋完善也意味着更严格的数据治理要求，组织需要紧跟这些演进轨道，实现技术应用与法律合规的协同并进。