2023云原生产业大会-构建可信AIGC云原生应用-英特尔

构建可信AIGC云原生应用的关键在于结合硬件安全技术与容器化架构。英特尔通过机密容器（ConfidentialContainers）项目及多项技术提升可信计算能力。CoCo作为CNCF沙箱项目，提供容器运行时安全，基于硬件可信执行环境（TEE）实现应用、模型和数据的保护，通过远程证明建立信任链，将基础设施服务提供者排除在可信计算基（TCB）之外，形成安全上云的新范式。

技术核心包括英特尔®高级矩阵扩展（AMX）和第四代至强®可扩展处理器，支持1B~13B规模的大语言模型（LLM）推理性能优化。具体优化手段有：定制化GEMM内核提升计算效率，IndirectAccess KVcache优化MHA计算瓶颈，算子融合算法提升模型运行性能，并适配BF16、INT8、INT4等低精度数据类型满足多元场景需求。同时，内置多CPU/多节点扩展能力，实现弹性扩展与成本优化。

英特尔®信任域扩展（TDX）技术提供虚拟机级TEE，通过VMM（虚拟机监视器）和Intel®Xeon(TDX)构建隔离环境，保护应用与数据安全。TDXConnect进一步扩展至异构设备（如GPU、加速器），确保跨平台信任域保护。生态支持方面，集成oneDNN、Intel®MKL、CCL、SYCL等库，并兼容PyTorch、TensorFlow等框架，提供Intel®ExtensionforPyTorch等优化工具，全面提升大模型推理效率与安全性。

在应用场景上，CoCo项目通过端到端零信任架构覆盖运行时、存储、网络及密钥管理，适用于公有云与私有数据中心。公有云场景侧重关键模型与IP的保护，私有数据中心则强调数据与计算资源的隔离。该方案无需修改应用即可部署，便于与云服务集成，符合云原生设计原则中的弹性、高密度与易用性要求。