Is Noise Conditioning Necessary for Denoising Generative Models?

普遍认为，噪声调节对于去噪扩散模型的成功运行是不可或缺的。然而，这项工作对这一观点提出了挑战。受盲图像去噪研究的启发，我们探讨了在没有噪声调节的情况下，多种基于去噪的生成模型的表现。令我们惊讶的是，大多数模型表现出优雅的退化，在某些情况下，即使没有噪声调节，它们的表现甚至更好。我们对因去除噪声调节而产生的误差进行了理论分析，并证明我们的分析与实证观察相一致。我们进一步引入了一种无条件噪声模型，在CIFAR-10数据集上达到了竞争性的FID值2.23，显著缩小了与领先的有条件噪声模型之间的差距。我们希望我们的发现能够激励社区重新审视去噪生成模型的基础和公式。

这篇论文试图挑战和验证一个广泛接受的假设，即噪声条件（noise conditioning）对于去噪扩散模型的成功是必不可少的。这是一个相对新颖的问题，因为它质疑了当前领域中一个被普遍接受的观点。

关键思路在于通过去除噪声条件来评估各种去噪生成模型的表现。研究发现，大多数模型在没有噪声条件的情况下表现出优雅的降解，甚至在某些情况下表现更好。这与传统观点形成了鲜明对比，并引入了一个无噪声条件的模型，该模型在CIFAR-10数据集上达到了竞争性的FID分数2.23，显著缩小了与领先噪声条件模型之间的差距。

实验设计涵盖了多种去噪生成模型，使用了CIFAR-10数据集进行测试。研究团队还提供了理论分析以解释移除噪声条件所带来的误差，并展示了这些分析与实际观察结果的一致性。此外，该工作开源了代码，为后续研究提供了便利。未来值得深入研究的方向包括探索其他数据集上的表现以及进一步优化无噪声条件模型。

最近在这个领域中的相关研究包括： 1. 'Blind Image Denoising: A Review' - 回顾了盲图像去噪领域的进展，为本研究提供了理论基础。 2. 'Denoising Diffusion Probabilistic Models' - 探讨了带有噪声条件的扩散模型。 3. 'Improved Techniques for Training Score-based Generative Models' - 提出了改进评分生成模型训练的技术。