54、Probabilistic Diffusion Model概率扩散模型理论

扩散模型本身是生成式模型

KL散度

VAE和difussion有点像

参数重整化

单层VAE

多层VAE

diffusion model

目标到噪声分布 高斯分布 扩散过程 q

逆扩散 噪声到目标 p

可视化图

扩散过程 不断往原始分布加噪声

逆扩散过程 从高斯噪声中恢复原始数据

后验扩散条件概率

目标数据分布的似然函数

扩散概率模型的算法代码

选择数据集

确定超参数的值

确定扩散过程任意时刻的采样值

演示原始数据分布加噪100步后的效果

编写拟合逆扩散过程高斯分布的模型

编写训练的误差函数

编写逆扩散采样函数(inference 过程）

开始训练模型， 并打印Loss及中间的重构效果

100步一采样显示

动画演示扩散过程和逆扩散过程

加噪声

生成

保存gif动图