2024-05-21-数世咨询-人工智能行业2024AI安全系列报告_LLM驱动数字安全_45页_12mb

LLM驱动数字安全报告总结

核心内容

本报告聚焦于LLM（Large Language Model）在数字安全领域的应用与赋能，探讨其在提升安全运营效率、威胁检测能力、知识科普与实战化场景中的作用。报告指出，虽然LLM在安全领域的应用仍处于早期阶段，但其展现出的潜力已引起广泛关注，特别是在安全大模型（Security LLM）的开发与部署方面。

主要观点

• LLM的新兴能力：LLM具备上下文学习（ICL）、指令遵循、逐步推理等能力，这些能力在安全场景中具有显著价值，能够提升安全运营效率与自动化水平。
• 安全大模型的定义：安全大模型是指在数字安全领域应用LLM，通过整合专业安全知识、经验与工具，实现更高效的威胁检测与响应。
• 安全大模型的应用方向：主要包括攻防对抗智能化、威胁狩猎深度化、安全知识科普化、安全运营效率化以及专项能力赋能。
• 安全大模型的发展趋势：未来将向“安全AGI”发展，具备多场景关联处理和多模态输入输出能力，实现更全面的安全防护体系。
• 安全大模型的挑战：包括应用成熟度不足、数据可用性有限、算力成本高、价值观偏见、数据安全与隐私保护、用户认知偏差、AI工程化能力不足以及法规合规性要求。

关键信息

1. 市场现状

• 当前国内具备LLM研发或应用能力的数字安全供应商约有28家，其中17家入选本报告。
• 安全大模型主要应用于攻防对抗、威胁狩猎、安全知识科普和安全运营效率提升。
• 安全大模型的头部用户多集中在运营商、金融行业和监管机构，这些行业对安全能力的需求较高。
• 2024年安全大模型市场规模预估可达5.85亿元人民币，其中最高销售额预计为1.2亿元，最低为0.1亿元。

2. 供应商分类

专项类供应商

• 海云安：专注于代码检测，提升漏洞、安全隐患和隐私合规的检测效率。
• 吉大正元：专注于数据安全，处于研究和试点应用阶段。
• 美亚柏科：专注于业务数据分析，助力公安行业。
• 墨云科技：专注于智能攻防，提供漏洞评估、修复建议和攻击模拟。
• 微步在线：专注于威胁情报融合分析，是首家通过网信办备案的公开安全大模型。
• 云起无垠：专注于模糊测试，提升测试易用性，是首家中国开源安全大模型。

综合类供应商

• 深信服科技：构建“XDR+GPT”双擎，实现安全运营的智能化和自动化。
• 360：通过“安全大模型”提升安全运营效率，打造智能体框架，集成安全知识库和工具库。

3. 应用案例

奇安信与北京银行

• 北京银行通过QAX-GPT安全机器人，实现7*24小时智能分析与告警处理，提升安全人效。
• QAX-GPT在威胁分析、攻击模拟、安全知识学习等方面表现优异，准确率达到初级和中级安全运营人员水平。

360与金融企业

• 360安全大模型通过智能体框架，实现安全知识、工具与大模型的整合，提升安全事件处理效率。
• 支持自动化告警分析、威胁情报处理、安全事件溯源等，提升整体安全运营能力。

深信服与政府行业

• 深信服安全GPT通过检测与运营模型，实现对安全事件的精准识别和快速处理。
• 在测试中，安全大模型的检测准确率超过95%，误报率低于4%，具备较高的实用性。

4. 市场趋势

• 安全大模型的市场发展主要受政策、资源、人才和需求驱动。
• 安全大模型的发展需要克服技术成熟度、数据质量、算力成本、可解释性、评估标准等挑战。
• 未来安全大模型将向“安全AGI”演进，具备多场景关联处理和多模态输入输出能力。

5. 总体展望

• 安全大模型是新质生产力的重要组成部分，具备推动高质量发展的潜力。
• 政府对AI技术的重视为安全大模型的落地提供了政策支持。
• 安全大模型的发展需要行业共同努力，建立更完善的评估体系和应用标准。

结论

LLM在数字安全领域的应用正在逐步展开，其在提升安全运营效率、增强威胁检测能力、推动安全知识普及等方面展现出巨大潜力。尽管当前仍面临诸多挑战，但随着技术的不断进步和政策的持续支持，安全大模型有望在未来成为数字安全领域的重要支柱。