2024-12-31-中国通信学会-人工智能应用系统内生安全蓝皮书（2024年）_88页_7mb

人工智能应用系统内生安全蓝皮书总结

本蓝皮书围绕人工智能（AI）应用系统的安全挑战与应对提出内生安全理论，强调从设计阶段将安全性嵌入系统架构的核心理念。通过异构冗余架构（DHR）等技术手段，构建具有动态策略调控、多模型联合防御和鲁棒性特性的确保机制，实现对抗攻击、数据投毒和后门攻击等威胁的有效防御，从根本上提升系统的可信度与健壮性。

当前AI应用面临的三位安全挑战包括数据隐私泄露、算法黑箱效应及模型鲁棒性不足，威胁形式多样化。在内生安全框架下，基于构造效应的防御策略不仅能抵御未知威胁，还能实现广义功能安全的量化评估，为AI系统提供全生命周期保障。通过动态异构实现方法，增强模型在面对对抗样本、噪声干扰及泛化能力等多维度不确定性下的表现，使其具备升级进化特性。

全球化发展态势下，蓝皮书倡导负责任的发展路径，推动内生安全技术与产业生态的深度融合，促进可信赖的AI治理体系形成。同时，提出加快国家层面安全试验场建设，构建“模型训练+安全验证”结合的一体化平台，为技术创新提供实践验证环境，引领全球人工智能新时代的安全治理变革。