20230626-浙商证券-AI安全系列_以子之矛_攻子之盾-从deepfakes深度伪造技术看AI安全_53页_4mb

2023年6月26日AI安全系列报告：从Deepfakes深度伪造技术看行业评级

核心观点

Deepfakes技术始于2014年，基于生成对抗网络（GAN）等深度学习技术，近年来随着AI大模型突破持续演进，已引发广泛监管关注。反AI生成市场空间约64亿元，主要分为监管侧44亿元和企业侧20亿元。多家公司具备相关技术能力，行业评级为“看好”。

Deepfakes技术演进

1. 定义与核心技术

   • 广义：利用生成对抗网络（GAN）等深度学习技术伪造图片/视频；
   • 狭义：基于深度学习的人脸图像合成技术，可实现“以假乱真”。

2. 发展阶段

   • 2014年：GAN提出，Deepfakes技术诞生；
   • 2017年：英伟达推动GAN图像质量飞跃，Deepfakes进入市场；
   • 2019年：生成分辨率大幅提升，应用从娱乐转向政治领域（如俄乌冲突中俄媒深度伪造事件）；
   • 2022年至今：新型生成模型（如StyleGAN3、扩散模型）进一步提升伪造精度。

技术基础与检测挑战

1. 生成式AI模型

   • VAE、GAN、Diffusion等是主流技术框架；
   • 生成式AI模型通过学习大规模数据生成新内容，但高质量图像生成面临算力与算法瓶颈。

2. 伪造检测

   • 当前检测方法包括基于深度学习、物理特征分析、生理特征等，但检测效果受限于生成模型迭代速度和数据泛化性；
   • 生成图像真实度提升导致检测难度持续增加。

AI安全市场空间测算

1. 监管侧

   • 市场空间约44亿元，需求场景包括公安、司法、检察系统，核心产品如美亚柏科“慧眼”检测工作站；
   • 主要需求方为公检法司，需部署全套设备以实现高精度检测。

2. 企业侧

   • 市场空间约20亿元，主要需求来自互联网企业与个人用户，检测产品如Illuminarty、AIVoiceDetector等可用订阅制服务；
   • 硬件厂商如Google通过元数据标记AI生成内容，降低假信息扩散风险。

相关上市公司与企业

1. 上市公司

   • 美亚柏科：已研发AI生成视频识别引擎，支持40+伪造检测算法；
   • 东方通：专注安全与合规检测，开发深度合成内容监控工具。

2. 非上市公司

   • 瑞莱智慧：构建第三代AI检测平台，准确率达99%；
   • 中科睿鉴：推出Trillion级大模型支撑多场景检测，掌上小程序“睿鉴AI”已上线；
   • Illuminarty、AIVoiceDetector：海外AI检测工具，适用于图片与音频鉴真。

风险提示

1. 技术落地不及预期风险：AIGC监管政策收紧或识别产品市场接受度下降；
2. 政策变动风险：国内外AI安全政策调整将影响行业格局；
3. 市场竞争加剧：AI安全领域企业可能加速入场带来激烈竞争。

行业评级

• 评级标准：行业指数相对沪深300指数未来6个月涨幅或跌幅；
• 评级结果：看好，预期行业指数表现+10%以上。