Consistency Flow Matching: Defining Straight Flows with Velocity Consistency

2024年07月02日
  • 简介
    Flow matching(FM)是一种通用的框架,通过普通微分方程(ODEs)定义概率路径,将噪声和数据样本进行转换。最近的方法尝试通过迭代校正方法或最优传输解决方案来使这些流轨迹变直,以生成更高质量的样本,通常需要更少的函数评估。在本文中,我们介绍了一种新的FM方法——一致性流匹配(Consistency-FM),它在速度场中明确强制执行自一致性。一致性-FM直接定义从不同时间开始到同一终点的直线流,对其速度值施加约束。此外,我们提出了一种多段训练方法来增强一致性-FM的表现力,实现更好的采样质量和速度之间的权衡。初步实验表明,我们的一致性-FM显着提高了训练效率,收敛速度比一致性模型快4.4倍,比校正流模型快1.7倍,同时实现了更好的生成质量。我们的代码可在以下网址获得:https://github.com/YangLing0818/consistency_flow_matching
  • 作者讲解
  • 解决问题
    论文旨在介绍一种新的流匹配方法Consistency Flow Matching,解决通过ODEs进行概率路径定义时的采样质量与效率问题。
  • 关键思路
    Consistency Flow Matching通过直接定义直线流,强制在速度场中实现自我一致性,从而提高训练效率和采样质量。
  • 其它亮点
    论文提出了一种新的流匹配方法Consistency Flow Matching,并通过多段式训练进一步提高了表达能力,从而实现更好的采样质量和速度。实验结果显示,Consistency-FM比一致性模型快4.4倍,比矫正流模型快1.7倍,同时实现更好的生成质量。研究者公开了代码。
  • 相关研究
    在这个领域中,最近的相关研究包括:Optimal Transport、Flow-based Models、Normalizing Flows等。
许愿开讲
PDF
原文
点赞 收藏
向作者提问
NEW
分享到Link

提问交流

提交问题,平台邀请作者,轻松获得权威解答~

向作者提问