Probability Density Geodesics in Image Diffusion Latent Space

扩散模型间接估计数据空间上的概率密度，这可以用于研究其结构。在这项工作中，我们证明可以在扩散潜在空间中计算测地线，其中由空间变化内积所诱导的范数与概率密度成反比。在此公式化中，穿过高密度（即可能）区域的图像潜在空间路径比穿过低密度区域的等效路径更短。我们提出了求解相关初值和边值问题的算法，并展示了如何沿路径计算概率密度以及两点之间的测地线距离。利用这些技术，我们分析了视频片段在预训练图像扩散空间中与测地线的接近程度。最后，我们演示了如何在给定预训练图像扩散模型的情况下，将这些技术应用于无需训练的图像序列插值和外推。

论文试图解决在扩散模型的潜在空间中如何计算和利用几何路径（geodesics）的问题，特别是如何通过这些路径来研究图像序列的插值和外推。这是一个相对较新的问题，尤其是在结合扩散模型和概率密度估计的情况下。

论文的关键思路是通过扩散模型的潜在空间定义一种与概率密度相关的度量范数，使得高密度区域的路径更短，从而可以计算出最短路径（即测地线）。这种方法允许在预训练的扩散模型上进行无监督的图像序列插值和外推。相比现有方法，该论文提出了一种基于变分法的算法来求解初始值和边界值问题，并直接利用扩散模型的概率密度特性。

论文设计了算法来求解测地线问题，并展示了如何计算路径上的概率密度和两点之间的测地距离。实验部分分析了视频片段是否能近似为扩散潜在空间中的测地线，并验证了其在图像序列插值和外推中的应用效果。作者使用了公开可用的扩散模型和数据集（如ImageNet），但未提及代码是否开源。未来可以进一步研究如何将此方法扩展到更高维的数据或动态系统中。

最近的相关研究包括：1) 利用扩散模型生成高质量图像的工作，例如Denoising Diffusion Probabilistic Models (DDPM)；2) 潜在空间优化的研究，如Latent Space Optimization for Generative Models；3) 测地线计算在GANs中的应用，例如Geodesic Interpolation in the Latent Space of GANs。其他相关工作还包括结合概率密度估计与生成模型的研究，如Score-based Generative Modeling。