Physics-Informed Diffusion Models

生成模型，例如降噪扩散模型，正在快速提高其近似高度复杂数据分布的能力。它们也越来越多地被应用于科学机器学习，其中期望从所暗示的数据分布中获得的样本遵循特定的控制方程。我们提出了一个框架，在模型训练期间，向降噪扩散模型提供关于这些生成样本的潜在约束的信息。我们的方法提高了生成样本与所施加的约束之间的一致性，并且在不影响推断速度的情况下显著优于现有方法。此外，我们的发现表明，在训练期间加入这样的约束提供了一种自然的正则化防止过拟合。我们的框架易于实现，并且在强制等式和不等式约束以及辅助优化目标方面具有广泛的适用性。

本论文旨在提出一种框架，以在训练模型时对生成样本的潜在约束进行通知，从而改善生成样本与所施加约束的一致性，并提供自然的正则化，以防止过拟合。

该论文的关键思路是在训练过程中将约束信息作为辅助优化目标，以引导生成样本更好地满足给定的约束条件。

论文的实验结果表明，该框架能够提高生成样本与所施加约束的一致性，并且在不影响推理速度的情况下，显著优于现有方法。此外，引入约束条件还提供了自然的正则化，以防止过拟合。该框架易于实现，适用于等式和不等式约束以及辅助优化目标。

近年来，关于生成模型的约束训练的研究逐渐增多。例如，基于GAN的方法和基于变分自编码器的方法。