Stability and Generalizability in SDE Diffusion Models with Measure-Preserving Dynamics

2024年06月19日
  • 简介
    逆问题描述了从一组测量或数据中估计因果因素的过程。将常常不完整或降级的数据映射到参数是不适定的,因此需要数据驱动的迭代解决方案,例如在从不良信号中重建清晰图像时。扩散模型已经显示出作为解决逆问题的强大生成工具的潜力,因为它们具有优越的重建质量和与迭代求解器的兼容性。然而,大多数现有方法仅限于表示为随机微分方程(SDE)的线性逆问题。这种简化未能解决现实世界问题的挑战性质,导致了累积误差和偏差的放大。我们通过随机动力系统(RDS)的保度量动力学的视角提供了这种差距的解释,通过分析时间分布差异来引入基于RDS的SDE扩散模型的理论框架。我们揭示了几种本质上增强扩散模型稳定性和泛化性的策略,并引入了一种新的基于分数的扩散框架,即\textbf{D}ynamics-aware S\textbf{D}E \textbf{D}iffusion \textbf{G}enerative \textbf{M}odel(D$^3$GM)。\textit{保度量性质}可以通过RDS概念中的\textit{稳定性}将退化的测量返回到原始状态,尽管存在复杂的降级。我们广泛的实验结果证实了D$^3$GM在多个基准测试中的有效性,包括逆问题的重要应用,磁共振成像。代码和数据将公开提供。
  • 图表
  • 解决问题
    本文试图解决非线性逆问题中扩散模型的稳定性和推广性问题,提出一种新的基于随机动力系统的理论框架,并设计了一种新的评分驱动的扩散生成模型。
  • 关键思路
    本文提出了一种新的理论框架,即基于随机动力系统的理论框架,用于解决非线性逆问题中扩散模型的稳定性和推广性问题。同时,设计了一种新的评分驱动的扩散生成模型(D$^3$GM),该模型能够提高扩散模型的稳定性和推广性。
  • 其它亮点
    本文提出的D$^3$GM模型在多个基准测试中表现出了很好的效果,包括在磁共振成像等逆问题中的应用。此外,本文还开放了代码和数据集。
  • 相关研究
    最近的相关研究包括基于深度学习的逆问题求解方法,如Deep Image Prior,以及一些基于扩散模型的逆问题求解方法,如Stochastic Gradient Langevin Dynamics和Diffusion Maps等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论