- 简介基于动态测度传输的生成模型,如扩散模型、流匹配模型和随机插值器,学习一阶或随机微分方程,其轨迹将初始条件从已知基础分布推向目标分布。虽然训练成本低,但样本是通过模拟生成的,比GAN等一步模型更昂贵。为了弥补这一差距,我们引入了流图匹配算法,该算法学习基础常微分方程的二次流图。这种方法导致了一种高效的几步生成模型,其步数可以后验地选择,以平滑地权衡精度和计算开销。利用随机插值器框架,我们引入了直接训练流图和从预训练(或其他已知)速度场中提取的损失。理论上,我们展示了我们的方法统一了许多现有的几步生成模型,包括一致性模型、一致性轨迹模型、渐进蒸馏和神经算子方法,这些可以作为我们形式化的特例得到。通过对CIFAR-10和ImageNet 32x32的实验,我们展示了流图匹配可以生成高质量的样本,并且与扩散或随机插值方法相比,具有显著降低的采样成本。
- 图表
- 解决问题本文旨在解决生成模型中的采样效率问题,提出了一种新的流映射匹配算法,通过学习基于常微分方程的两个时间流映射,实现了高质量的少步生成模型。
- 关键思路本文的关键思路是使用流映射匹配算法来学习常微分方程的两个时间流映射,从而实现高效的少步生成模型。相比于目前的扩散模型和随机插值方法,该方法可以显著降低采样成本。
- 其它亮点本文提出的流映射匹配算法可以用于直接训练流映射,也可以用于预训练速度场的蒸馏。实验结果表明,该方法可以在CIFAR-10和ImageNet 32x32数据集上生成高质量的样本,并且相比于扩散模型和随机插值方法,采样成本显著降低。
- 最近的相关研究包括一些少步生成模型,如一致性模型、一致性轨迹模型、渐进蒸馏和神经算子方法。
沙发等你来抢
去评论
评论
沙发等你来抢