首先diffusion model 是一种生成式模型(generative model),可以用来生成文字、图像、视频等。与之对应的是判别式模型(discreminative model),比如图片分类、人脸识别等。 常见的判别式模型有下图所示的这几大类。GAN 是之前的 SOTA,不过它训练不太稳定,生成的内容缺乏多样性。VAE 的缺点是使用的是 surrogate loss,不...
Diffusion Model的训练流程可以大致分为两个阶段:第一阶段是加噪阶段,给定一张原图 x_0 ,我们会对其进行 T 步加噪,最终将其变为高斯噪声 x_T ;第二阶段是去噪阶段,对于刚加完噪的 x_T ,我们会对其进行 T 步去噪,最终尝试将其复原成原图 x_0 。在训练结束进行推理时,我们不进行第一阶段,而是取一个白...
机器学习和人工智能算法不断发展,以解决复杂问题并加深我们对数据的理解。其中一个引人注目的模型类别是扩散模型,它们因能够捕捉和模拟像数据生成和图像合成这样的复杂过程而受到重视。 在这篇文章中,我们将探讨: 什么是扩散? 什么是扩散模型? 扩散模型是如何工作的? 扩散模型的应用(不做展示,未来几期推文专门介绍)...
Diffusion Model 扩散模型 速览 近年来,AI生成艺术领域取得了长足的进步,其中Diffusion Model的兴起可以说是一个重要的里程碑。Diffusion Model是一种生成模型,它使用了一个深度神经网络来建模图像的像素级别分布。相较于传统的生成模型,Diffusion Model不需要计算任何显式的概率分布,而是采用一个简单的随机游走过程...
Diffusion Model 首先定义了一个前向扩散过程,总共包含T个时间步,如下图所示: 最左边的蓝色圆圈x0表示真实自然图像,对应下方的狗子图片。 最右边的蓝色圆圈xT则表示纯高斯噪声,对应下方的噪声图片。 最中间的蓝色圆圈xt则表示加了噪声的x0,对应下方加了噪声的狗子图片。
为了系统地阐明diffusion model的研究进展，我们总结了原始扩散模型的三个主要缺点，采样速度慢，最大化似然差、数据泛化能力弱，并提出将的diffusion models改进研究分为对应的三类：采样速度提升、最大似然增强和数据泛化增强。我们首先说明改善的动机，再根据方法的特性将每个改进方向的研究进一步细化分类，从而清楚地展现...
最近AI 绘图非常的火,其背后用到的核心技术之一就是 Diffusion Model(扩散模型),虽然想要完全弄懂 Diffusion Model 和其中复杂的公式推导需要掌握比较多的前置数学知识,但这并不妨碍我们去理解其原理。接下来会以笔者所理解的角度去讲解什么是 Diffusion Model。
Diffusion Model这次被拉进聚光灯之下，不得不归功于各类“AI一句话作图”神器的火爆。例如OpenAI家的DALL·E 2：谷歌家的Imagen：不难看出，这些近期大流行的图像生成神器，不论是真实程度亦或是想象、理解能力，都是比较符合人类的预期。因此它们也成为了这届网友们把玩的“新宠”（当年GAN出道的时候也是被玩坏了...
1Diffusion model 再升华 目前业界出现的扩散模型变体层出不穷，但它们都有一个不变的核心：都是围绕随机噪声去除这个概念建立的。扩散模型的本质，以及目前我们对扩散模型的理解，都与高斯噪声在训练和生成过程中所起的作用高度相关。我们可以将「扩散」理解为使用 Langevin 动力学围绕图像密度函数的随机移动，扩散的每...
Diffusion Model的原理基于熵增定律,即系统的熵(混乱度)会随时间增加。在Diffusion Model中,首先给一幅图片增加噪声,让其变得极其混乱,然后训练模型将混乱的照片变回有序(实现图片生成)。这个过程可以分为两个阶段:前向过程和反向过程。 前向过程(加噪):在前向过程中,模型不断往输入数据中增加噪声,直到数据完全变...