No Training, No Problem: Rethinking Classifier-Free Guidance for Diffusion Models

分类器无指导（CFG）已经成为提高条件扩散模型质量的标准方法。然而，使用CFG要么需要在主扩散模型旁边训练一个无条件模型，要么需要定期插入一个空条件来修改训练过程。此外，CFG没有明确的扩展到无条件模型。在本文中，我们重新审视了CFG的核心原则，并介绍了一种新方法，独立条件指导（ICG），它提供了CFG的好处，而不需要任何特殊的训练过程。我们的方法简化了条件扩散模型的训练过程，并且可以在任何预训练的条件模型上进行推断。此外，通过利用所有扩散网络中编码的时间步信息，我们提出了CFG的扩展，称为时间步指导（TSG），可以应用于任何扩散模型，包括无条件模型。我们的指导技术易于实现，并且具有与CFG相同的采样成本。通过大量实验，我们证明ICG在各种条件扩散模型中与标准CFG的性能相匹配。此外，我们还展示了TSG类似于CFG改善生成质量，而不依赖于任何条件信息。

本文旨在解决条件扩散模型的质量问题，提出了独立条件指导（ICG）和时间步骤指导（TSG）两种方法，以提高模型的生成质量。

ICG和TSG方法可以在不需要特殊训练程序的情况下，简化条件扩散模型的训练过程，并可以应用于任何预训练条件模型的推理过程中。TSG方法还可以扩展到无条件模型上。

实验结果表明，ICG方法与标准CFG方法在各种条件扩散模型上的性能相当。文章提供了开源代码，并且探讨了ICG和TSG方法的进一步研究方向。

相关研究包括条件扩散模型的先前研究，如CFG方法，以及其他生成模型的研究，如VAE和GAN。