20250117-赛迪智库电子信息研究所-机密计算保障人工智能系统安全研究报告_26页_5mb

机密计算保障人工智能系统安全研究报告总结

核心内容

本报告围绕人工智能（AI）系统的安全需求与挑战，探讨了机密计算在保障AI系统安全中的关键作用，并分析了其技术现状、发展趋势以及在不同行业的应用前景。

主要观点

1. AI安全需求与挑战

• 大模型时代的安全需求：新一代AI技术已广泛应用于各行各业，其安全风险也日益凸显，需构建覆盖系统、数据、算法和模型四个层次的综合安全框架。
• AI安全的主要风险：
  • 系统安全：包括平台可信性风险、内存攻击、存储攻击、瞬态执行攻击、框架和组件漏洞、网络攻击风险。
  • 模型安全：如模型窃取、后门攻击、越狱攻击。
  • 算法安全：缺乏可解释性、对抗性攻击、歧视偏见。
  • 数据安全：数据投毒、梯度反演、成员推理、用户输入数据泄露。
• 现有解决方案的局限性：
  • 多数方案集中在数据、算法和模型安全层面，忽略系统层保护。
  • 云服务环境下的数据保护存在漏洞，如TLS协议无法实现端到端隐私保护。
  • 系统层的安全性常被忽视，成为整体安全的薄弱环节。

2. 机密计算现状与趋势

• 技术原理与应用价值：机密计算利用可信执行环境（TEE）保护“使用中”的数据，实现数据在传输、存储和使用过程中的全面保护。
• 发展历程：
  • TPM/TCM阶段（2003-2014）：早期的安全技术主要聚焦于硬件安全模块。
  • TEE阶段（2015-2018）：可信执行环境技术逐渐成熟。
  • 机密计算阶段（2019年至今）：成为保护数据和模型安全的重要手段。
• 平台互联互通：不同技术路线的机密计算环境存在差异，导致互操作性受限，需通过行业联盟和标准化组织推动统一标准。
• 技术路线：x86体系相对成熟，ARM和RISC-V体系正在积极发展，系统级TEE方案是未来的重要方向。
• 产业生态：技术研发、标准化建设与产业应用协同发展，推动机密计算的广泛应用。

3. 机密计算保障AI系统安全

• AI技术栈四层结构：系统、数据、算法、模型，其中系统层的安全至关重要。
• 机密AI技术架构：结合TEE与模型数据安全理念，形成软硬一体的安全框架。
• 微软Azure机密AI技术：
  • 基于AMD SEV-SNP技术。
  • 引入可信第三方角色，解决模型提供者与用户之间的信任问题。
  • 集成远程证明服务，实现安全通信与认证。
  • 支持GPU加速，提升推理效率。
• 阿里云机密AI技术：
  • 利用TEE Runtime Trustiflux和Trustee等框架实现数据解密与隐私保护。
  • 提供用户数据“使用中”加密、可审计证明、对上层应用的透明性等核心优势。
  • 典型应用场景包括模型训练和推理，实现数据和模型的全生命周期保护。

4. 机密计算保障数据和模型安全

• 数据安全与用户隐私保护：通过TEE隔离数据，确保训练过程中敏感数据不被外部访问。
• 算法安全防护：机密计算为算法提供系统层保护，尤其在抵御白盒攻击方面效果显著。
• 模型安全保护：
  • 包括基于传统加密、密态计算、TEE及机密虚拟机的多种方案。
  • 基于机密虚拟机的方案提供全生命周期保护，有效抵御多方威胁。

5. 机密AI未来趋势展望

• 发展规模持续扩大：随着数据隐私法规的完善，机密AI将更广泛地应用于敏感数据处理场景。
• 标准建设逐步完善：包括算法与协议、应用接口、软硬件加速、平台功能等多方面的标准制定。
• 技术协同态势显著：机密计算与AI、区块链、5G、物联网、云计算等技术融合，推动跨领域解决方案发展。
• 行业应用不断深化：
  • 电子政务：实现政府部门间数据安全共享。
  • 金融：提升跨机构风险评估与欺诈检测的安全性。
  • 医疗：支持隐私保护下的医学研究与临床试验。
  • 工业：优化生产流程，保护知识产权与工艺数据。
  • 商业：实现商业数据安全共享，促进市场洞察与合作。

关键信息

• 机密计算通过TEE保护“使用中”的数据，弥补传统加密技术在数据使用阶段的不足。
• 阿里云与微软在机密AI技术上各有特色，分别通过TEE Runtime Trustiflux和SEV-SNP实现安全计算。
• 机密AI需满足数据隐私法规要求，支持端到端数据保护。
• 未来，机密计算将与AI、区块链、5G等技术深度融合，推动行业应用的进一步拓展。
• 行业联盟和标准化组织在提升机密计算互操作性和兼容性方面发挥关键作用。

结语

本报告强调了机密计算在AI系统安全中的重要性，并指出其在保障数据与模型安全、提升系统可信度、满足合规要求等方面具有显著优势。随着技术的不断发展和行业需求的增长，机密AI将在未来发挥更大的价值，成为AI安全的重要支柱。