扩散模型推理阶段超越增加去噪步长的比例扩展方法研究与应用

怪侠说不说
优质创作者: 编程框架技术领域
领域专家: C/C++技术领域
2025-01-21 22:54:48
...全文
119 回复 打赏 收藏 举报
写回复
用AI写文章
回复
切换为时间正序
请发表友善的回复…
发表回复
扩散模型DDPM的发展史：从AE、VAE、VQ-VAE到DDPM(含图像加噪、去噪的全过程及U-Net的简介)、DDIM
本文系统梳理了从自编码器（AE）、变分自编码器（VAE）到向量量化VAE（VQ-VAE），再到扩散模型DDPM及改进版DDIM的发展脉络。重点解析DDPM的前向加噪与逆向去噪过程，阐明其核心是通过U-Net架构学习噪声估计，以均值预测替代像素预测，并推导了训练目标函数（L2 loss）与采样生成机制。同时涵盖DDPM关键贡献：噪声预测范式与固定方差设计。
目标检测扩散模型DiffusionDet登场，扩散模型正在不同任务中“扩散”
DiffusionDet将目标检测任务转化为从噪声框到目标框的去噪扩散过程，利用扩散模型的建模方式改进了目标检测任务。在MS-COCO和LVIS数据集上表现优秀。
扩散模型在医学图像处理中的应用研究综述
本文聚焦2021 - 2024年扩散模型在医学图像处理的研究进展，梳理其在图像生成、分割及特定疾病诊断的应用，分析现有方法突破与挑战，如阶段融合策略提升生成质量、IB - Trans UNet优化分割。指出当前数据依赖强、计算效率低等问题，提出构建数据集、开发轻量化架构等未来方向。
视频扩散模型迎来革新！NUS提出TPDiff框架：训练成本减半，推理速度飙升！
视频扩散模型计算需求大，NUS提出TPDiff框架提高训练和推理效率。该框架将扩散过程分阶段，逐步提高帧率，仅最后阶段全帧率运行。还引入分阶段扩散训练框架，适用于各种扩散形式。实验表明，此方法降低训练成本，提高推理效率，且生成视频质量高。
NoProp：无需反向传播，基于去噪原理的非全局梯度传播神经网络训练，可大幅降低内存消耗
反向传播算法存在内存消耗大、并行扩展能力受限的问题。NoProp基于扩散模型概念，通过分层去噪训练，实现层间解耦，无需全局传播。它有三种技术变体，研究人员还采取措施提升训练稳定性。实验表明，NoProp能显著降低内存消耗，训练效率和准确率与传统方法相当。
今天深度学习了吗

37,679

社区成员

157

社区内容

发帖
与我相关
我的任务
社区描述
深度学习相关博客和资源~
人工智能图像处理深度学习 个人社区 浙江省·杭州市
社区管理员
  • 怪侠说不说
加入社区
  • 近7日
  • 近30日
  • 至今

加载中

查看更多榜单
社区公告
暂无公告

试试用AI创作助手写篇文章吧

+ 用AI写文章