Diffusion模型的数学形式

领域专家: 数据科学与机器学习技术领域

2024-06-14 08:38:05

课时名称	课时知识点
Diffusion模型的数学形式	从数学形式出发推导diffusion，帮助大家更好更深刻的理解什么是diffusion。

...全文

84 回复打赏收藏转发到动态举报

写回复

回复

切换为时间正序

请发表友善的回复…

发表回复

Easy_diffusion是一个易于训练和修改的基于diffusion的模型，它是我在通读diff_easy_diffusion

本文基于2020年提出的DDPM[1]（Denoising diffusion probabilistic models）模型，对扩散模型的原理进行详细的介绍。对于扩散过程，在满足马尔科夫链的条件下，我们应用了重参数技巧证明了基于原始数据我们可以对任意步进行采样，并且可以使用数学表达式进行表示；对于逆扩散过程，我们应用了贝叶斯公式和高斯分布的性质进行数学推导得到了逆扩散过程的后验分布，并且应用于目标优化；对于目标优化，在已知真实数据的条件下，我们应用了极大似然估计将模型参数估计转换为对数似然估计，结合了变分

基于扩散模型的深度学习模型是一类可以通过学习数据中的扩散过程来实现数据分析和建模的模型。这种模型的基本思想是通过扩散过程来学习数据中的特征，并将学习到的特征应用于其他任务中。

生成式建模的扩散思想实际上已经在2015年（Sohl-Dickstein等人）提出，然而，直到2019年斯坦福大学（Song等人）、2020年Google Brain（Ho等人）才改进了这个方法，从此引发了生成式模型的新潮流。目前，包括OpenAI的GLIDE和DALL-E 2，海德堡大学的Latent Diffusion和Google Brain的ImageGen，都基于diffusion模型，并可以得到高质量的生成效果。本文以下讲解主要基于DDPM，并适当地增加一些目前有效的改进内容。

基于马尔可夫链的数学形式，开发者可实现更高效的采样算法（如DDIM、PLMS），需修改JSON配置中的。

李冠东的课程社区_NO_1

1

社区成员

29

社区内容

发帖

与我相关

我的任务

社区管理员

加入社区

近7日
近30日
至今

加载中

查看更多榜单

社区公告

暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章