Amortized Posterior Sampling with Diffusion Prior Distillation

我们提出了一种变分推断方法，用于从后验分布中采样以解决反问题。从预先训练的扩散模型中，我们的方法训练了一个条件流模型，以最小化建议变分分布和通过扩散模型隐含定义的后验分布之间的差异。一旦训练完成，流模型就能够通过单个NFE（评估次数）与测量相关的分摊来从后验分布中采样。所提出的方法为提炼扩散先验以实现高效的后验采样开辟了一条新路径。我们展示了我们的方法适用于欧几里德空间中的标准信号，以及流形上的信号。

论文旨在提出一种变分推断方法，通过从预训练的扩散模型中训练条件流模型，隐式地定义后验分布，从而解决反问题。

论文提出了一种新的方法，通过训练条件流模型来实现从扩散模型中提取先验知识，从而实现高效的后验采样。

论文的方法适用于欧几里得空间中的标准信号，以及流形上的信号。实验结果表明，该方法在各种数据集上都取得了很好的效果，并且只需要一个NFE就能够进行后验采样。该论文的代码已经开源，值得进一步研究。

在这个领域中，最近的相关研究包括《Variational Inference with Normalizing Flows》、《Implicit Models for Probabilistic Programs》等。