Understanding Diffusion Models by Feynman's Path Integral

2024年03月17日
  • 简介
    基于分数的扩散模型已被证明在图像生成方面非常有效,已经得到广泛的应用;然而,随机和确定性(即概率流ODE)采样方案之间表现差异的潜在因素仍不清楚。我们引入了一种新的扩散模型公式,使用费曼路径积分,这是最初为量子物理学开发的公式。我们发现这种公式提供了关于基于分数的生成模型的全面描述,并演示了反向随机微分方程和损失函数的导出。该公式容纳了一个插值参数,连接随机和确定性采样方案,我们将该参数识别为量子物理学中普朗克常数的对应物。这种类比使我们能够应用温策尔-克莱默-布里渊(WKB)展开,这是量子物理学中已经确立的技术,用于评估负对数似然,以评估随机和确定性采样方案之间的性能差异。
  • 图表
  • 解决问题
    本论文旨在解决得分基础扩散模型中随机和确定性采样方案之间性能差异的问题。
  • 关键思路
    该论文提出了一种使用费曼路径积分的扩散模型新公式,以提供得分基础生成模型的全面描述,并演示了反向随机微分方程和损失函数的推导。该公式可以通过插值参数连接随机和确定性采样方案,并将该参数识别为量子物理中普朗克常数的对应物。
  • 其它亮点
    该论文使用了费曼路径积分的新公式,提供了全面的得分基础生成模型描述,并使用Wentzel-Kramers-Brillouin(WKB)展开来评估负对数似然,以评估随机和确定性采样方案之间的性能差异。实验结果表明,该方法在图像生成方面表现出色。
  • 相关研究
    在这个领域中,最近还进行了许多相关研究。例如:\"Diffusion Models Beat GANs on Image Synthesis\"、\"Score-Based Generative Modeling through Stochastic Differential Equations\"等。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论