Diffusion Model With Optimal Covariance Matching

概率扩散模型在各个领域都变得非常有效。通常，从扩散模型中取样涉及使用一个以学习到的均值为特征的高斯去噪分布，其协方差可以是固定的或学习的。在本文中，我们利用最近提出的全协方差矩匹配技术，并引入一种学习协方差的新方法。与传统的数据驱动协方差逼近方法不同，我们的方法直接回归最优解析协方差，使用一种名为Optimal Covariance Matching (OCM)的新的无偏目标。这种方法可以显著减少协方差预测中的逼近误差。我们展示了我们的方法如何显著提高马尔可夫（DDPM）和非马尔可夫（DDIM）扩散模型族的采样效率。

本文旨在提高扩散模型的采样效率，通过直接回归最优解析协方差来学习协方差，解决了传统的数据驱动协方差逼近方法中的逼近误差问题。

本文提出了一种新的方法，称为最优协方差匹配（OCM），通过直接回归最优解析协方差来学习协方差，从而提高扩散模型的采样效率。

本文的方法在两个扩散模型家族中都有显著的采样效率提高，实验结果表明，与传统的数据驱动协方差逼近方法相比，本文的方法可以显著降低逼近误差。本文使用了全协方差矩匹配技术，并提出了一种新的、无偏的目标函数OCM。本文的实验使用了两个扩散模型家族（DDPM和DDIM），并在多个数据集上进行了测试。本文的代码已经开源。

在最近的相关研究中，也有一些研究关注于提高扩散模型的采样效率，例如《Diffusion Models Beat GANs on Image Synthesis》和《DDIM: Diffusion Models with Invertible Dynamics and Memory》。