以零信任应对AI部署中的影子访问风险_14页_581kb

报告摘要

《以零信任应对AI部署中的影子访问风险》总结

序言
报告指出，在云计算、人工智能及大型语言模型快速发展背景下，企业在数字化转型中面临日益复杂的安全挑战。影子访问（意外或未经授权的访问）因现代技术环境的复杂性和访问权限管理不足而加剧，成为亟待解决的安全问题。零信任安全理念被定位为应对影子访问的重要策略。本文探讨了影子访问与零信任的关系，特别是在人工智能技术广泛应用的背景下，并提出细粒度访问控制、数据分类、身份验证和负责任使用等策略。

影子访问及零信任原理
影子访问是指对资源的意外或非预期访问，其产生与云服务聚合使用、账户权限默认开放及自动化基础设施有关。零信任以“永不信任、持续验证”为中心，通过强身份验证、最小特权访问控制、网络隔离及持续监控等方法，减少影子访问发生的可能性。

关于影子访问的存在原因
虽然零信任核心原则原本旨在杜绝影子访问，但由于现有环境并未完全实现所有零信任原则、人们易犯错误、技术流程不完整等原因，影子访问仍在广泛存在。

零信任原则在减少影子访问中的作用
零信任通过最小权限原则（仅授予必要访问权限）、持续验证和监控机制，有效识别并解决因错误配置、权限变更设置不当或自动化工具导致的影子访问问题。

AI、GenAI、LLMs带来的挑战
人工智能特别是生成式人工智能（GenAI）及其技术（如检索增强生成（RAG））的集成，加剧了影子访问的风险。这些技术引入了未经授权的访问、数据敏感信息暴露和治理上的困难。GenAI引入了新的技术资源，如数据管道和RAG系统，使得传统的访问控制面临挑战，尤其是基于向量嵌入的衍生数据访问控制上，传统机制难以持续有效。

应对AI时代影子访问的策略建议

建立全面清单与访问控制
维护企业AI资产及其元数据的详尽清单，加强对GenAI系统的访问控制，确保透明、可控及合规的数据访问。
实施授权和治理框架
制定健全的授权和治理框架，确保模型访问符合公司政策和外部法规。多模态数据需要细粒度的控制机制，以保护各类数据的安全。
增强访问控制和策略构建
针对向量嵌入等中间产物和导出数据，必须重新架构访问策略和分类机制，以适应新系统需求。
贯彻身份验证与负责任使用
实施必要的身份验证措施，确保只有授权用户或API进行符合责任范围的操作，并防范未经授权访问与滥用风险。
加强内容适宜性和防止敏感数据泄露
通过引入内容适宜性检查、加密机制、数据匿名化以及内容过滤工具，防止个人身份信息（PII）和机密数据在AI应用中的泄露。