Improving Diffusion-Based Generative Models via Approximated Optimal Transport

我们介绍了一种新的扩散式生成模型训练方案——近似最优输运（AOT）技术。我们的方法旨在近似并将最优输运集成到训练过程中，从而显著提高扩散模型准确估计去噪器输出的能力。这种改进导致扩散模型的ODE轨迹具有更低的曲率和在采样过程中减少截断误差。我们在训练中采用AOT，实现了更优质的图像质量和减少采样步骤。具体而言，我们在无条件和有条件生成中分别使用27个NFE和29个NFE实现了1.88和1.73的FID分数。此外，当将AOT应用于训练鉴别器进行指导时，我们分别在无条件和有条件生成中建立了新的最先进的1.68和1.58的FID分数，每个分数都使用了29个NFE。这个结果证明了AOT在提高扩散模型性能方面的有效性。

本论文旨在提出一种新的训练方案Approximated Optimal Transport (AOT)来加强扩散模型的性能，尤其是在估计去噪器输出方面。

AOT技术将最优输运集成到训练过程中，显著提高了扩散模型的性能和采样质量。

通过AOT技术，本文在无条件和有条件生成方面实现了FID分数为1.88和1.73的优异结果，并在训练鉴别器方面创造了新的最佳FID分数。实验使用的数据集和开源代码值得关注。

最近在这个领域中，还有其他相关研究，例如《Generative Models》、《Diffusion Models》等。