Classifier-Free Guidance is a Predictor-Corrector

本文探讨了分类器自由引导（CFG）的理论基础。CFG是文本到图像扩散模型条件抽样的主要方法，但与扩散的其他方面不同，它仍然缺乏牢固的理论基础。本文通过展示CFG与DDPM（Ho等人，2020）和DDIM（Song等人，2021）的交互作用不同，以及CFG与两种采样器生成的伽马分布的不同，来证明了常见的误解是错误的。然后，我们通过展示CFG是一种预测-校正方法（Song等人，2020），交替进行去噪和锐化，并称之为预测-校正引导（PCG），来澄清CFG的行为。我们证明，在SDE极限下，CFG实际上等价于将DDIM预测器与伽马分布的Langevin动力学校正器（选择合适的伽马值）组合起来。因此，我们的工作通过将CFG嵌入到更广泛的有原则的采样方法的设计空间中，提供了理论上理解CFG的视角。

本文旨在研究分类器自由引导（CFG）的理论基础。CFG是文本到图像扩散模型的条件采样的主要方法，但与扩散的其他方面不同，它仍然缺乏稳定的理论基础。本文试图澄清CFG的行为，并将其嵌入到更广泛的有原则的采样方法设计空间中。

本文通过展示CFG与DDPM和DDIM的交互方式不同，并且CFG与两种采样器都不能生成伽马功率分布，从而驳斥了常见的误解。然后，本文通过展示CFG是一种预测-校正方法，交替进行去噪和锐化，并将其称为预测-校正引导（PCG），澄清了CFG的行为。本文证明，在SDE极限下，CFG实际上等价于将DDIM预测器与伽马功率分布的Langevin动力学校正器（具有精心选择的伽马值）相结合。这为理解CFG提供了一种理论视角，并将其嵌入到更广泛的有原则的采样方法设计空间中。

本文的亮点包括：澄清了CFG的行为并将其嵌入到更广泛的有原则的采样方法设计空间中；证明了在SDE极限下，CFG实际上等价于将DDIM预测器与伽马功率分布的Langevin动力学校正器相结合；实验设计合理，使用了多个数据集进行验证。

在这个领域中，最近的相关研究包括DDPM和DDIM模型。