生成式人工智能的扩散模型概述_56页_2mb

报告摘要

扩散模型在生成式人工智能中的概述

摘要
本文对去噪扩散概率模型（DDPM）及其变体进行了数学严谨的介绍，这些模型是生成式人工智能的核心技术之一。通过逐步添加噪声并将数据转化为纯噪声，然后学习逆转该过程，扩散模型能够生成高质量的新数据样本。文中涵盖了DDPM的基本框架、训练目标、数学基础，以及改进版本如DDIM、分类器自由引导（classifier-free guidance）和潜在扩散模型，同时评估了生成式模型的性能指标。

1. 引言

生成式建模的目标是从未知数据分布中生成新样本。扩散模型通过模仿从数据分布添加噪声直至纯噪声的过程，然后学习逆转该过程来生成数据。DDPM作为代表模型，因其渐进性去噪特性，能够在图像、视频、语音等领域达到最先进的生成效果[15,44]。DDPM由前向扩散过程和反向去噪过程组成，前者逐步添加噪声，后者学习从噪声中恢复数据。

2. DDPM的基本框架

DDPM的核心是马尔可夫链，其中每个时间步根据高斯分布添加噪声。前向过程通过随机微分方程定义，反向过程则由神经网络参数化以逼近真实数据分布。训练目标是最大化数据对数似然（ENLL），并通过KL散度分解简化计算[15,44]。使用高斯混合模型时，网络架构如UNet被用于处理空间变换和时间嵌入，以提高去噪效率[30]。

3. 改进与扩展

改进DDPM（Improved DDPM）
调整了噪声调度策略（如余弦调度）和方差预测，以提升训练稳定性，并支持更少采样步数实现高质量生成[30]。

DDIM（Denoising Diffusion Implicit Models）
将扩散过程非马尔可夫化，允许非逐步采样生成数据，减少了训练和采样时间，同时保留了与DDPM相同的训练目标[45]。

分类器自由引导（Classifier-free Diffusion Guidance）
通过不依赖分类器的方式控制生成结果，消除了对额外分类模型的需求，增强了生成多样性和可控性，适用于多类别生成任务[16]。

潜在扩散模型（Latent Diffusion Models）
将数据映射到潜在空间进行扩散，降低了计算成本的同时，保持了生成质量，尤其适用于高分辨率图像生成（如Stable Diffusion）[38]。

4. 生成式模型评估

常用指标包括：

Inception Score (IS)：衡量生成图像的质量和多样性。
Fréchet Inception Distance (FID)：比较生成图像和真实图像的分布相似性，值越低越好。
感知相似度指标（LPIPS）：评估人类感知层面的质量，优于传统PSNR指标。

5. 应用与技术

扩散模型在图像生成、视频生成、文本到图像生成（如DALL-E 2、DALL-E 3）、图像编辑、异常检测等领域有广泛应用[6,17,36,50]。结合Transformer文本编码器（如CLIP）和自注意力机制（如跨注意力层），可以实现基于文本的图像控制生成（如Stable Diffusion）[38, Ramesh et al.]。