2024AI系统的网络安全治理实践报告-华为_26页_4mb

华为公司在人工智能（AI）系统的网络安全治理方面采取了系统化实践，旨在应对AI全生命周期中的潜在风险。报告指出，AI发展依赖算法、算力和数据三大要素，但其能力提升也带来了数据投毒、模型脆弱性、应用控制风险、算力平台攻击等新型网络安全威胁。各国针对AI安全已启动不同立法进程，欧盟强调风险分级与系统性监管，美国侧重政府报告义务与关键技术研发，中国则通过专项法规和标准推动行业规范。

华为提出AI网络安全治理的五大核心实践：合法合规、治理管理、流程融入、工程能力建设及开放合作。在合规层面，华为构建了覆盖全球的AI法律要求识别体系，确保系统符合各国网络安全法规；治理管理上，通过风险评估、责任划分和独立验证机制实现风险控制；流程融入方面，将AI安全需求嵌入研发、营销、供应等全业务流程，如IPD流程中明确网络安全要求；工程能力聚焦数据安全、模型安全、应用安全等领域，开发了加密算法、对抗样本防御技术及安全检测系统；开放合作则通过与客户、合作伙伴共同制定标准，提升行业整体安全水平。

针对AI系统防护，华为构建了“五道护栏”体系：第一道数据安全护栏通过加密、数据集合规检查等措施保障数据生命周期安全；第二道模型安全护栏利用安全对齐、风险检测算法提升模型鲁棒性；第三道应用安全护栏通过任务规划防护、API越权防护等技术控制应用执行风险；第四道运营安全护栏建立态势感知系统和可信审计机制，实现异常行为拦截与日志完整性保障；第五道算力底座安全护栏则通过可信计算技术（如BMC芯片和TEE环境）保护硬件层与系统软件安全，同时创新PCIe安全技术与灵衢UB互联协议确保NPU集群间的高效安全通信。这些措施覆盖了从数据保护到算力平台的全链条防护，为AI系统的安全运行提供了技术支撑与治理框架。