Neural Flow Diffusion Models: Learnable Forward Process for Improved Diffusion Modelling

Grigory Bartosh,
Dmitry Vetrov,
Christian A. Naesseth
44
热度
stat.ML
CV
ML
2024年04月19日
  • 简介
    传统扩散模型通常依赖于固定的前向过程,这隐含地定义了潜变量的复杂边缘分布。这经常会使得反向过程在学习生成轨迹时变得复杂,并导致扩散模型的推断成本很高。为了解决这些限制,我们引入了神经流扩散模型(NFDM),这是一个新颖的框架,通过支持超出固定线性高斯的更广泛的前向过程来增强扩散模型。我们还提出了一种新颖的参数化技术来学习前向过程。我们的框架提供了一个端到端、无需模拟的优化目标,有效地最小化负对数似然的变分上界。实验结果证明了NFDM的强大性能,表现为最先进的似然估计。此外,我们调查了NFDM学习具有特定特征的生成动态的能力,例如确定性直线轨迹。这次探索强调了NFDM的多功能性及其在广泛应用中的潜力。
  • 图表
  • 解决问题
    本文旨在增强扩散模型的性能,以支持更广泛的前向过程,并提出一种新的参数化技术来学习前向过程,以减少推理成本和复杂度。
  • 关键思路
    本文提出了神经流扩散模型(NFDM)的框架,通过支持更广泛的前向过程,增强了扩散模型的性能。并且提出了一种新的参数化技术来学习前向过程。
  • 其它亮点
    实验结果表明NFDM具有很强的性能,具有最先进的似然估计。此外,本文还研究了NFDM学习具有特定特征的生成动态的能力,如确定性直线轨迹。这个探索强调了NFDM的通用性和其在广泛应用中的潜力。
  • 相关研究
    最近在这个领域中,还有一些相关研究,如PixelCNN,PixelRNN,RealNVP等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论