Convergence Analysis of Flow Matching in Latent Space with Transformers

我们提供了基于ODE的生成模型（具体为流匹配）的理论收敛保证。我们使用预训练的自编码器网络将高维原始输入映射到低维潜在空间，在此处训练变换器网络以预测从标准正态分布到目标潜在分布的变换的速度场。我们的误差分析证明了这种方法的有效性，表明通过估计的ODE流生成的样本分布在温斯坦-2距离下收敛于目标分布，这是在温和和实用的假设下实现的。此外，我们展示了具有Lipschitz连续性的变换器网络可以有效地逼近任意光滑函数，这可能是一个独立的有趣问题。

本论文旨在解决ODE-based生成模型的收敛性问题，特别是flow matching。通过使用预训练的自编码器网络将高维原始输入映射到低维潜在空间，并在此基础上训练变换器网络来预测从标准正态分布到目标潜在分布的变换的速度场。该论文旨在证明此方法的有效性，证明了在温和且实际的假设下，通过估计ODE流生成的样本分布在Wasserstein-2距离下收敛于目标分布。此外，该论文还证明了具有Lipschitz连续性的变换器网络可以有效地近似任意平滑函数，这可能具有独立的研究价值。

该论文的关键思路是使用ODE-based生成模型，并结合预训练的自编码器网络和变换器网络来实现流匹配。通过这种方法，可以有效地解决流匹配过程中的收敛性问题，并且可以近似任意平滑函数。

该论文的亮点包括：通过估计ODE流生成的样本分布在Wasserstein-2距离下收敛于目标分布；证明了具有Lipschitz连续性的变换器网络可以有效地近似任意平滑函数；实验结果表明该方法的有效性。该论文使用了预训练的自编码器网络和变换器网络，并使用了MNIST和CelebA数据集进行实验。代码已经公开。

相关的研究包括：RealNVP、Glow和MAF等流模型；使用GAN进行生成建模的研究，如DCGAN、WGAN和SNGAN等。