20250209-Technology_Innovation_Institute-AI_利用生成式AI增强自治系统的安全性_弹性和安全性_42页_2mb

生成式AI（GenAI）在自主系统中的应用：GenAI，如大型语言模型、GANs、VAEs等，能显著提升安全性、弹性和韧性。在无人机群、网络安全等领域，GenAI用于异常检测、预测性维护、人机协作和零信任架构整合。例如，入侵检测准确率提升，故障预测优化，任务分配改进。优势包括高效数据处理和适应性。挑战涉及高计算成本、伦理问题（如偏见和隐私）、新安全漏洞（如提示注入）。未来需开发低成本解决方案、加强监管，并整合零信任原则，以确保可靠性和安全性。GenAI与零信任系统的结合有望实现范式转变，推动自主系统的安全应用。