2025-01-17-中国电子信息产业发展研究院-机密计算保障人工智能系统安全研究报告_26页_5mb

AI安全需求与挑战
人工智能技术快速发展，带来了多层次的安全风险。首先，数据安全需要保护数据在存储、传输和使用时的机密性、完整性和可用性。其次，算法安全要确保AI决策公正、鲁棒，避免歧视和恶意干扰。第三，模型安全要求防止模型被窃取、非法复制和滥用。第四，系统安全关注AI软硬件基础设施的保护，防范未经授权的访问和篡改。主要挑战包括平台可信性风险、模型攻击（如窃取、后门、越狱）等，现有安全方案（如模型加密、对抗样本检测）在保护传输中和静态数据上较弱，但无法有效应对复杂威胁。

机密计算现状与趋势
机密计算是一种利用可信执行环境（TEE）保护“使用中”数据的技术，确保数据加密且不可见，增强整体安全性和可验证性。它覆盖数据生命周期的三大阶段：传输中、静态存储和使用中。机密计算技术正通过硬件（如指令集扩展）、软件（如新兴编程工具）和平台化发展，提升产业生态互操作性。未来趋势包括依赖专用硬件加速、促进技术融合（如与AI、区块链结合），并加强标准建设，推动云服务和行业应用的协同发展。

机密计算保障AI系统安全
机密计算通过将AI技术栈分为系统、数据、算法、模型四层，引入TEE技术减少信任实体，实现全过程保护。技术实例包括微软Azure的SEV-SNP架构，结合远程证明和代理网关，确保数据和通信安全；阿里云则使用TEE Runtime Trustiflux和Trustee服务，支持模型数据所有权分离。核心优势包括高强度硬件安全、可审计过程和透明性，有效应对AI模型泄露和隐私保护。

机密计算保障数据和模型安全
在数据安全方面，机密计算通过TEE隔离授权代码，实现训练数据最小化使用，保护用户隐私，防止投毒攻击和逃逸。在模型安全方面，它提供全生命周期保护，抵御基础设施威胁，包括加密形式下的推理。相比其他方案，机密虚拟机技术更全面，支持算法防篡改和知识产权保护。

机密AI未来趋势展望
机密AI的发展将持续扩大，标准建设逐步完善统一，技术协同态势显著，聚焦硬件、安全协议、密码学和隐私机制的升级。行业应用深化体现在电子政务、金融、医疗、工业和商业领域，例如数据共享、风险评估、疾病诊断等，助力合规性和效率提升。