扩散模型

原始的扩散模型里面变量繁多，需要稍微记录一下整个过程中出现的公式、变量等，方便对照代码理解。

一些资料：

【Diffusion模型】由浅入深了解Diffusion，不仅仅是震撼，感受它带给我们的无限可能！！（超详细的保姆级入门教程）_哔哩哔哩_bilibili

What are Diffusion Models?

前向过程

主要计算：

$x_t=\sqrt{{\alpha }_t}{x}_{t-1}+\sqrt{1-{\alpha }_t}{z}_1$

其中，

${\alpha }_t=1-{\beta }_t$

${\beta }_t\in (0.0001,0.002)$进行均匀采样，递增,${\alpha }_t$显然呈递减： 即图像的比重越来越小，噪声比重越来愈大

推广一下，任意的 $x_t$ 从 $x_0$ 的计算过程为：

$x_t=\sqrt{\overline{{\alpha }_t}}{x}_0+\sqrt{1-\overline{{\alpha }_t}}{z}_t$

其中，${\bar{\alpha }}_t={\prod }_{i=1}^t{\alpha }_i$, $z_t$ 为t时刻采样的高斯噪声

以上从概率论的视角看[暂时不用理会]：

逆向过程

根据$x_t$求解$x_{t-1}$:

主目标

$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t,{\mathbf{x}}_0)=q({\mathbf{x}}_t|{\mathbf{x}}_{t-1},{\mathbf{x}}_0)\frac{q({\mathbf{x}}_{t-1}|{\mathbf{x}}_0)}{q({\mathbf{x}}_t|{\mathbf{x}}_0)}$

$q({\mathbf{x}}_{t-1}|{\mathbf{x}}_t)=q({\mathbf{x}}_t|{\mathbf{x}}_{t-1},{\mathbf{x}}_0)\frac{q({\mathbf{x}}_{t-1}|{\mathbf{x}}_0)}{q({\mathbf{x}}_t|{\mathbf{x}}_0)}$

简化，此目标正比于：

$\propto \exp (-\frac{1}{2}((\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}}){\mathbf{x}}_{t-1}^2-(\frac{2\sqrt{{\alpha }_t}}{{\beta }_t}{\mathbf{x}}_t+\frac{2\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0){\mathbf{x}}_{t-1}+C({\mathbf{x}}_t,{\mathbf{x}}_0)\left)\right)$

与标准的高斯分布进行对比：

$\frac{1}{\sqrt{2\pi \sigma }}\exp (-\frac{(x-\mu {)}^2}{2{\sigma }^2})\propto \exp (-\frac{1}{2}(\frac{1}{{\sigma }^2}{x}^2-\frac{2\mu }{{\sigma }^2}x+\frac{{\mu }^2}{{\sigma }^2}\left)\right)$

看出方差出现在平方之前即红色部分，均值则在蓝色部分出现，可以对均值进行一次计算，约分得到：

${\tilde{\mathbf{\mu }}}_t=\frac{1}{\sqrt{{\alpha }_t}}({\mathbf{x}}_t-\frac{1-{\alpha }_t}{\sqrt{1-{\bar{\alpha }}_t}}{\mathbf{z}}_t)$

此时得到均值和方差，然后训练过程就是用神经网络估计这边的噪声$z_t$.

以后就是关键公式了。

$\begin{array}{rl}{\tilde{\beta }}_t=\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}\cdot {\beta }_t& \\ {\tilde{\mathbf{\mu }}}_t({\mathbf{x}}_t,{\mathbf{x}}_0)& =(\frac{\sqrt{{\alpha }_t}}{{\beta }_t}{\mathbf{x}}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0)/(\frac{{\alpha }_t}{{\beta }_t}+\frac{1}{1-{\bar{\alpha }}_{t-1}})\\ & =(\frac{\sqrt{{\alpha }_t}}{{\beta }_t}{\mathbf{x}}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}}{1-{\bar{\alpha }}_{t-1}}{\mathbf{x}}_0)\frac{1-{\bar{\alpha }}_{t-1}}{1-{\bar{\alpha }}_t}\cdot {\beta }_t\\ & =\frac{\sqrt{{\alpha }_t}(1-{\bar{\alpha }}_{t-1})}{1-{\bar{\alpha }}_t}{\mathbf{x}}_t+\frac{\sqrt{{\bar{\alpha }}_{t-1}}{\beta }_t}{1-{\bar{\alpha }}_t}{\mathbf{x}}_0\end{array}$

---

小名同学推荐 B 站李宏毅课程，以后有机会也学习学习

扩散模型 - Diffusion Model【李宏毅2023】