One-step Diffusion with Distribution Matching Distillation

这段摘要介绍了一种名为分布匹配蒸馏（Distribution Matching Distillation，DMD）的方法，可以将扩散模型转化为一步图像生成器，对图像质量影响最小。该方法通过最小化近似KL散度，使一步图像生成器在分布级别上匹配扩散模型。该近似KL散度的梯度可以表示为目标分布和由一步图像生成器产生的合成分布之间的两个分数函数之间的差异。这些分数函数是由分别在每个分布上训练的两个扩散模型参数化的。结合简单的回归损失，匹配多步扩散输出的大规模结构，该方法优于所有已发布的少步扩散方法，在ImageNet 64x64上达到2.62 FID，在零样本COCO-30k上达到11.49 FID，与Stable Diffusion相当，但速度快了几个数量级。利用FP16推理，我们的模型在现代硬件上以20 FPS的速度生成图像。

将扩散模型转化为一步图像生成器，以提高生成速度，同时保持图像质量。

使用分布匹配蒸馏（DMD）方法，将一步图像生成器与扩散模型在分布级别上匹配，同时使用简单的回归损失匹配多步扩散输出的大尺度结构。

DMD方法在ImageNet 64x64和零样本COCO-30k数据集上实现了2.62 FID和11.49 FID的性能，比当前所有已发布的少步扩散方法都要好。使用FP16推理，模型在现代硬件上以20 FPS的速度生成图像。

与此相关的研究包括Stable Diffusion等扩散模型，以及其他图像生成方法，如GAN和VAE。