AI安全系列-以子之矛-攻子之盾-从deepfakes深度伪造技术看AI安全-浙商证券_53页_4mb

2023年AI安全行业报告聚焦Deepfakes技术及其安全影响，核心内容包括：

1. 技术演进：Deepfakes技术自2014年GAN模型诞生起快速发展，2017年英伟达优化算法推动其进入市场主流，2019年后技术应用广泛。当前主流生成式AI模型包括VAE、GAN、Diffusion模型等，其中StableDiffusion显著提升输出质量。

2. 技术分类：

   • 生成式AI模型：分为语言模型和图像模型，多模态模型推动技术融合。
   • 人脸伪造技术：分为有目标（如换脸、表情重演）和无目标（生成不存在人脸）两类，前者已用于俄乌冲突中的虚假信息传播。

3. 检测手段：

   • GAN生成图像检测：通过统计特征（如纹理、频率分布）及模型训练进行区分。
   • Diffusion模型检测：依赖重建差异（DIRE）等方法，但技术难度更高。
   • 物理与生理特征：分析光照、对称性、虹膜等特征以识别伪造内容。

4. 技术趋势：生成式AI迭代使伪造内容真实度提升，同时增加AIGC识别难度。数据量、算法优化和算力提升是关键驱动因素。

5. 监管与市场空间：全球反AI生成市场规模约64亿元，其中监管侧（44亿元）涵盖司法鉴定、内容审核等场景；企业侧（20亿元）聚焦用户端AI内容检测。

6. 相关企业：

   • 国内：美亚柏科、东方通、中科睿鉴等；
   • 海外：Illuminarty、AIVoiceDetector、Google等。

7. 风险提示：包括监管政策不确定性、技术识别能力不足、市场竞争加剧及政策变动等潜在风险。

报告系统梳理了Deepfakes技术发展历程、生成式AI模型特性、检测方法演进及行业现状，同时指出随着技术进步，AI安全需求将推动市场增长，但需应对技术与政策双重挑战。