扩散模型实战（一）：基本原理介绍

扩散模型（Diffusion Model）是⼀类⼗分先进的基于物理热⼒学中的扩散思想的深度学习⽣成模型，主要包括前向扩散和反向扩散两个过程。⽣成模型除了扩散模型之外，还有出现较早的VAE（Variational Auto-Encoder，变分⾃编码器）和GAN（Generative Adversarial Net，⽣成对抗⽹络）等。

生成模型

在深度学习中，⽣成模型的⽬标是根据给定的样本（训练数据）⽣成新样本。⾸先给定⼀批训练数据X，假设其服从某种复杂的真实分布p(x)，则给定的训练数据可视为从该分布中采样的观测样本x。如果能够从这些观测样本中估计出训练数据的真实分布，不就可以从该分布中源源不断地采样出新的样本了吗？⽣成模型实际上就是这么做的，它的作⽤是估计训练数据的真实分布，并将其假定为q(x)。在深度学习中，这个过程称为拟合⽹络。

那么问题来了，怎么才能知道估计的分布q(x)和真实分布p(x)的差距⼤不⼤呢？⼀种简单的思路是要求所有的训练数据样本采样⾃q(x)的概率最⼤。这种思路实际上来⾃统计学中的最⼤似然估计思想，它也是⽣成模型的基本思想之⼀，因此⽣成模型的学习⽬标就是对训练数据的分布进⾏建模。

扩散过程

最⼤似然估计思想已经在⼀些模型（如VAE）上应⽤并取得了不错的效果。扩散模型可看作⼀个更深层次的VAE。扩散模型的表达能⼒更加丰富，⽽且其核⼼在于扩散过程。

扩散的思想来⾃物理学中的⾮平衡热⼒学分⽀。⾮平衡热⼒学专⻔研究某些不处于热⼒学平衡中的物理系统，其中最为典型的研究案例是⼀滴墨⽔在⽔中扩散的过程。在扩散开始之前，这滴墨⽔会在⽔中的某个地⽅形成⼀个⼤的斑点，我们可以认为这是这滴墨⽔的初始状态，但要描述该初始状态的概率分布则很困难，因为这个概率分布⾮常复杂。随着扩散过程的进⾏，这滴墨⽔随着时间的推移逐步扩散到⽔中，⽔的颜⾊也逐渐变成这滴墨⽔的颜⾊，如图1-1所示。此时，墨⽔分⼦的概率分布将变得更加简单和均匀，这样我们就可以很轻松地⽤数学公式来描述其中的概率分布了。

在这种情况下，⾮平衡热⼒学就派上⽤场了，它可以描述这滴墨⽔随时间推移的扩散过程中每⼀个“时间步”（旨在将连续的时间过程离散化）状态的概率分布。若能够想到办法把这个过程反过来，就可以从简单的分布中逐步推断出复杂的分布。

公认最早的扩散模型DDPM（Denoising Diffusion Probabilistic Model）的扩散原理就由此⽽来，不过仅有上述条件依然很难从简单的分布倒推出复杂的分布。DDPM还做了⼀些假设，例如假设扩散过程是⻢尔可夫过程（即每⼀个时间步状态的概率分布仅由上⼀个时间步状态的概率分布加上当前时间步的⾼斯噪声得到），以及假设扩散过程的逆过程是⾼斯分布等。

DDPM的扩散过程如图1-2和1-3所示，具体分为前向过程和反向过程两部分。扩散模型是一种潜变量模型，它使用固定的马尔可夫链映射到潜在空间。该链逐步向数据中添加噪声，以获得近似后验值，其中为与x0具有相同维数的潜变量。在下面的图中，我们可以看到这样一个马尔可夫链。

最后，图像逐渐变为纯高斯噪声。训练扩散模型的目标是学习逆向过程，即训练。通过沿着这条链向后遍历，我们可以生成新的数据。

1）前向过程

前向过程是给数据添加噪声的过程。假设给定一批训练数据，数据分布为，其中，0表示初始，即还没有开始扩散。如前所述，将前向加噪过程分为离散的多个时间步 T ，在每一个时间步 t ，给上一个时间步t-1的数据；添加高斯噪声，从而生成带有噪声（简称”带噪”）的数据，同时数据，也会被送入下个时间步 t +1以继续添加噪声。其中，噪声的方差是由一个位于区间（0,1）的固定值，确定的，均值则由固定值，和当前时刻”带噪”的数据分布确定。在反复迭代和加噪（即添加噪声） T 次之后，只要 T 足够大，根据马尔可夫链的性质，最终就可以得到纯随机噪声分布的数据，即类似稳定墨水系统的状态。

接下来，我们用简单的公式描述一下上述过程。从时间步 t -1到时间步 t 的单步扩散加噪过程的数学表达式如下：