计算机行业事件点评：人工智能vs网络安全_3页_708kb

人工智能与网络安全行业事件点评总结

核心观点

信息技术产业的每一次变革都会带来新的需求、模式和格局。在当前的人工智能（AI）技术发展浪潮中，网络安全行业也迎来了新的机遇与挑战。以ChatGPT为代表的AI爆品标志着新一轮人工智能技术即将快速进入产业化阶段，未来将形成“大模型+垂类和场景模型”的融合模式，对网络安全行业产生积极影响。AI技术的发展不仅提升了网络安全防御能力，也带来了新的安全威胁，包括AI自身的安全问题，如数据投毒、对抗样本等。因此，AI赋能网络安全和AI自身安全都值得深入研究和关注。

事件分析

过去在发生什么

• 人工智能安全的定义：Gartner在2019年将人工智能安全分为三个层面：
  • 人工智能赋能安全防御；
  • 人工智能恶意应用带来的安全威胁；
  • 人工智能自身安全。
• RSA大会趋势印证：2021年RSA大会指出，人工智能已经成为构建安全检测、分析等能力的基础组件，广泛应用于安全分析平台、入侵检测系统（IDS）、下一代防火墙（NGFW）、勒索软件检测等领域。
• CSET报告分析：2021年6月，美国安全和新兴技术中心（CSET）发布的报告指出，当前机器学习技术对网络安全领域的影响主要是改进式变化，而非颠覆性变革，未显著改变攻防地位。

近期在发生什么

• 生成式AI技术发展：2022年，生成式AI技术迅速发展，如DALL·E2、Stable Diffusion、Make-a-Video、Imagen等，推动了文本生成图像、视频等技术的普及。
• AI在其他领域的应用：DeepMind的AlphaFold和Meta的ESMFold在蛋白质结构预测方面取得突破，AlphaTensor则在矩阵乘法算法优化上展现出强大能力。
• AI赋能网络安全落地：例如，启明星辰利用AI技术检测加密通信中的攻击流量，并在NFT及TAR等产品中实现应用；AI安全建模和赋能平台将AIOps自动化能力引入AI安全建模全过程，提升了效率。
• AI自身安全威胁：针对AI算法模型的攻击方式多样，包括数据投毒、对抗样本、成员推断、模型萃取等，对AI应用构成严重威胁。

趋势展望

1. 人工智能赋能网络安全防御逐渐脱离“黑盒”应用模式，更加透明和可解释。
2. 高质量网络安全数据集的构建与积累将成为AI应用落地的关键。
3. 系统的工程化将加速AI在网络安全防御中的应用构建。
4. 隐私计算技术将更快从理论走向实际应用，以解决数据安全与隐私保护的问题。

未来关注点

• 自然语言理解技术的发展有助于自动提取高质量威胁情报，推动智能客服系统等新应用的出现。
• 生成式AI的潜在风险不容忽视，其可用于生成虚假图像、钓鱼邮件甚至恶意软件代码。
• AI模型部署后的性能监控与自适应更新技术将成为保障AI安全运行的重要方向。

重要声明

本报告由中泰证券股份有限公司发布，具有证券投资咨询业务资格。报告内容基于公开资料及研究团队的分析，力求客观、独立，但不保证其准确性与完整性。投资者应自行关注相关信息的更新，本报告不构成任何投资建议或操作指南。中泰证券及其关联机构可能持有报告中提及的公司股票，并提供相关金融服务。未经授权，任何机构或个人不得对本报告进行翻版、发布、复制、转载等行为。