很多diffusion models相关的论文都会画出扩散示意图，如果自己写扩散模型相关论文的时候也会遇到这个问题。这篇博客就手把手教大家如何画出每个时间步骤的扩散过程示意图。

很多Diffusion models的论文里都演示了插值任务，今天我们讲解一下如何用DDIM/DDPM做interpolation任务，剖析原理，并给出代码讲解与实战。

DDIM发表在ICRL2021上，是DDPM重要的改进之一，能显著提高DDPM的样本质量、减少采样时间，并且能显式控制插值，已经被广泛应用到现在的Diffusion Models上。这篇博客和大家一起详细解读一下DDIM，认识这一伟大的模型。.........

目录扩散模型的物理背景应用领域：图像生成、图像分割、音频建模、自然语言处理、时间序列预测、点云重建等学习扩散模型的预备知识配分函数能量模型和受限玻尔兹曼机蒙特卡洛采样法和重要采样法数学推导核心问题总体过程前向过程(diffusion process)采样过程(Reverse diffusion process)推导训练目标代码详细解读数据集准备、超参数设置、loss设计、关键参数计算Unet结构、正向和逆向过程、IS和FID测试、EMA优化图解

前言：在近两年的NeurIPS、ICCV、CVPR等顶会中，出现了二三十篇score-based generative models相关的论文，这是一种全新的生成式模型。特别是一些论文直接喊出了beat GANs(打败GANs)的口号，全新的生成方式和部分领域领先GANs、VAE的生成效果，让越来越多的人感兴趣并投身于研究中。会不会是下一个GANs？能否解决目前GANs遇到的问题？ 和现有的生成式模型相比有哪些优点哪些缺点？ 目前的网络结构是怎样？ 如何用代码实现？ 常用的数据集有哪些？ 常.

前言：Diffusion Model扩散模型与深度学习(附Python示例)_沉迷单车的追风少年-CSDN博客、击败GANs的新生成式模型：score-based model(diffusion model)原理、网络结构、应用、代码、实验、展望_沉迷单车的追风少年-CSDN博客前面这两篇文章中详细讨论了diffusion models和score-based models原理、方法和代码实现。新的生成式模型从出生开始就被寄予打败GANs、VAE等前辈的重望。虽然这两种模型在本质上来讲是一样的，但.

前言：前面几篇文章更多的在思考GAN和diffusion model之间的关系，VAE作为最经典的生成模型之一，本文从VAE出发，聊一聊VAE和diffusion model之间的爱恨情仇。为什么diffusion model扩散模型可以称为score-based models？_沉迷单车的追风少年-CSDN博客击败GANs的新生成式模型：score-based model(diffusion model)原理、网络结构、应用、代码、实验、展望_沉迷单车的追风少年-CSDN博客Diffusio.

生成式对抗网络(GANs)与其他网络相比，很难进行评估。并且，对gan的质量进行评估是非常重要的，因为它可以帮助我们选择正确的模型，或者何时停止培训，或者如何改进模型。在几种方法中，Frechlet Inception Distance(FID)是评价GANs质量的一个性能指标。为什么衡量GANs生成质量困难的？GANs训练难度大，训练不稳定会引起各种问题. 现有的方法不够准确 如果我们手动或用肉眼评估GANs，它可能很耗时，而且容易出错。什么是FID？FID是一个性能度量，用来计算真实图

目录写在前面如何获得形状控制？如何获得latent z？模型到底在学习什么？独立性假设从计算总和到计算其中一项reparameterization trick参考写在前面diffusion model的灵感来源就是分子无规则扩散运动，然而DDPM第一个大规模产出论文的应用领域却是二维图像生成。将点云看做是无规则运动的分子，运用DDPM进行重建，这一任务简直和diffusion model天生一对。为什么会点云重建会诞生在二维图像重建之后？本文也会给出一点自己的思考。

前言：DDPM从2020年诞生，短短一年的时间，模型上有两个巨大的改进，其中一个就是condition的引入，最近大部分DDPM相关的论文都会讨论这一点，有些文章称之为latent variable。和当年GAN的发展类似，CGAN和DCGAN的出现极大程度上促进了GAN的发扬光大，意义重大。本文基于前面几篇文章继续聊一聊：从VAE到Diffusion Model_沉迷单车的追风少年-CSDN博客 为什么diffusion model扩散模型可以称为score-based models？_沉迷单车的.

前言：今天是大年初一，先祝大家新年快乐！本文是《Diffusion models与深度学习》的第九篇文章，通过前面的文章介绍，大家应该已经基本了解扩散模型的特点，细心的读者会有疑问，为什么现在绝大部分的diffusion models都是U-net结构呢？这个发源于医疗分割的网络结构，为何广受备受diffusion models这种生成式模型的喜爱呢？目录灵感从GANs中而来DDPM诞生之初与Unet的不解之缘Positional Embedding融入共享参数信息Unet基础上引入.

前言：本专栏博文《从VAE到Diffusion Model_沉迷单车的追风少年-CSDN博客》讨论过VAEs和diffusion models之间的区别和联系。生成式模型的根本任务是捕捉底层的数据分布，并学习以无监督的方式从数据的显式/隐式分布中生成新的样本。本文介绍DDPM最新的研究成果DiffuseVAE，解决低维潜在空间上生成样本质量差、采样速度慢等问题。目录VAE简介DDPM简介VAE优缺点与DDPM的优缺点VAE优缺点DDPM优缺点DDPM+VAE：完美结合两者优点.

前言：2019年开创性论文《Generative Modeling by Estimating Gradients of the Data Distribution》发表后，扩散模型相关论文如雨后春笋一般涌现，其实扩散模型可以看成一种自动编码器。目录一、Diffusion Models流程简述混乱的命名二、Denoising Autoencoders三、Diffusion Models的训练过程四、扩散模型其实可以看成一种自动编码器五、总结六、写在最后参考一、.

前言：2021年底，马斯克掌舵的OpenAI又推出重磅作品，基于diffusion models的高质量图像生成和图像编辑，短短两个月在github上收获了2k个star，要知道DDPM的开山之作开源两年也才区区300个star。这篇博客就要探讨一下这个2021年度最火diffusion models。目录快速开始背景知识模型结构DDPM鼻祖两年时间才300starsGLIDE两个月收获了2kstars快速开始源码地址：GitHub - openai/glide-tex.

前言：2019年宋博士提出了SMLD模型，2020年Jonathan Ho提出了DDPM，这两大生成式随即成为顶会宠儿。2021年，宋博士提出了score-based generative model，一统这两大极为相似的生成式模型。本文在系列文章《为什么diffusion model扩散模型可以称为score-based models？》的基础上，探讨这三种生成式模型之间的区别、联系、优缺点、应用领域等。目录SMLD——基于langevin动力学的去噪分数匹配DDPM——去噪扩散概率模型.

Diffusion Models专栏文章汇总：入门与实战前言：作为Diffusion Models最成功的前辈们：flow based models、VAEs、GANs，最近几个月已经有不少将diffusion models和这些经典模型结合的文章，本系列的前文已有介绍。今天介绍的是首次将GANs和diffusion models工作，是一种比较成功的GANs的思路，相同的结合方式迅速流行，给正在做这一方向的小伙伴重要参考与启示。逆过程不是Gaussian当足够小的时候，逆过程和已知前..

前言：有不少订阅我专栏的读者问diffusion models很深奥读不懂，需要先看一些什么知识打下基础？虽然diffusion models是一个非常前沿的工作，但肯定不是凭空产生的，背后涉及到非常多深度学习的知识，我将从配分函数、基于能量模型、马尔科夫链蒙特卡洛采样、得分匹配、比率匹配、降噪得分匹配、桥式采样、深度玻尔兹曼机等方面，摘取一些经典的知识点，供读者参考。目录无向模型配分函数链接无向模型有向图模型为我们提供了一种描述结构化概率模型的语言。 而另一种常...

Diffusion Models专栏文章汇总：入门与实战前言：diffusion models诞生到现在，很多论文热衷于把diffusion models带到自己的领域用于生成，也有不少人醉心于用各种奇技淫巧优化采样过程，以改善diffusion models致命的缺点：生成速度太慢。而Palette的诞生意义不亚于pix2pix GANs、cycleGANs，能够实现图像着色、图像修复、图像剪裁恢复、图像解压缩(超分)等等任务。我们第一次发现，原来diffusion models不仅仅能用于生..

Diffusion Models专栏文章汇总：入门与实战前言：有不少订阅我专栏的读者问diffusion models很深奥读不懂，需要先看一些什么知识打下基础？虽然diffusion models是一个非常前沿的工作，但肯定不是凭空产生的，背后涉及到非常多深度学习的知识，我将从配分函数、基于能量模型、马尔科夫链蒙特卡洛采样、得分匹配、比率匹配、降噪得分匹配、桥式采样、深度玻尔兹曼机等方面，摘取一些经典的知识点，供读者参考。目录基于能量模型的定义受限玻尔兹曼机基于能量模型的..