《Improved Denoising Diffusion Probabilistic Models》是OpenAI提出的一个工作,对DDPM做了一些改进。具体论文细节可以参见论文,今天就来看一下代码实现,在看代码细节之前,也会简单过一下论文的一些发现。 学习高斯分布的方差 DDPM的论文里面,作者发现把推理过程的高斯分布的方差设定为 σt2=βt
在前边两篇文章中我们学习了 DDPM 和DDIM,这篇文章介绍的是 Improved DDPM,是一个针对 DDPM 生成效果进行改进的工作。 虽然DDPM 在生成任务上取得了不错的效果,但如果使用一些 metric 对 DDPM 进行评价,就会发现其虽然能在 FID 和 Inception Score 上获得不错的效果,但在负对数似然(Negative Log-likelihood,NLL)...
代码阅读:github.com/openai/impro 摘要 DDPM作为生成模型:DDPM(Denoising Diffusion Probabilistic Models)是一种生成模型,当时被证明能产生高质量的样本。 简单修改带来的提升:研究表明,通过一些简单的修改,DDPM不仅能保持生成高质量样本的能力,还能获得竞争性的对数似然值。 反向扩散过程的优化:发现学习反向扩散过程中的...