在_AI_时代保护关键基础设施-CSET_34页_1mb

报告摘要

关键基础设施中人工智能的应用与风险管理总结

执行摘要

AI在关键基础设施（CI）中的应用已存在多年，最初用于网络安全防御和商业运营。生成式AI技术的兴起为CI运营商带来新机遇，如增强聊天机器人、优化情报分析和自动化代码生产。然而，AI的采用伴随双重风险：系统自身缺陷及恶意行为者利用AI发起攻击。当前CI行业面临资源差距、AI与网络安全界限模糊、风险管理框架分散等问题，需通过技术措施和政策调整协同发展。研究建议建立集中化AI安全分析中心，加强跨行业信息共享，并推动定制化风险管理指导。

核心内容分析

AI应用场景分类

AI在CI中的应用可分为三类：

IT场景：用于网络安全任务，如日志监控、恶意活动检测等，已广泛应用于所有CI领域。
OT场景：涉及物理系统监控与控制，如能源设施实时管理，但当前实际案例较少。
行业专属场景：如金融领域的欺诈检测、能源预测分析等，需针对性设计。

主要风险与挑战

内部风险：AI系统漏洞、数据泄露、模型不可解释性等，尤其在OT领域影响物理安全。
外部风险：生成式AI被恶意利用，如自动化钓鱼攻击、复杂网络测绘等，降低攻击门槛。
管理难题：AI风险归属模糊，需平衡网络安全框架与AI风险管理框架（AIRMF）的交叉应用，现有合规要求碎片化影响跨领域协同。

采用障碍

资源差距：大型组织与小型提供商在技术、资金、数据获取等方面存在显著差异，限制AI普及。
数据限制：OT系统数据有限，小型机构难以获得高质量训练数据。
人才缺口：需培养兼具AI与网络安全技能的复合型人才，现有培训体系不足。
技术壁垒：传统网络安全实践（如红队测试）难以直接应用于AI风险管理，需定制化解决方案。

关键观察

行业差异：金融服务和能源领域AI应用较成熟，水务等传统行业进展缓慢。
框架模糊性：AI安全与网络安全概念重叠，需明确风险管理边界。
合规复杂性：跨境运营面临欧盟GDPR等国际法规冲突，资源匮乏机构更易受制于碎片化监管。

建议与措施

横向建议
- 建立集中化的AI安全分析中心，整合跨行业数据共享与风险管理。
- 制定统一的AI事件定义及报告阈值，明确现有网络安全平台（如ISACs）的扩展需求。
- 增强AI可解释性，通过模型卡片、训练数据披露等提升透明度。
政府层面
- 协调联邦与州级监管，支持针对性AI培训计划。
- 资助专门测试环境，推动AI模型评估标准化。
- 完善NIST AIRMF框架，结合CSF与隐私框架提供实施指南。
行业行动
- 金融、能源等部门应主导定制化AI培训项目，识别部门特定需求。
- 推动行业间互助机制，如共享安全事件数据库、联合制定最佳实践。
- 开发AI与OT系统兼容的测试床，降低部署风险。
组织层面
- 明确AI风险责任人，可能设立首席AI官或在其框架内进行角色分工。
- 采用NIST Dioptra等工具进行AI系统评估，定期开展跨部门桌面演练。
- 鼓励开发者提供可解释性框架，建立第三方模型审计机制。
AI开发者责任
- 强化AI系统的安全设计，确保模型输出的可靠性与透明度。
- 提供定制化风险管理指南，降低用户采用门槛。
- 与CI运营商合作，确保AI技术符合行业安全需求。