Riemannian Consistency Model

一致性模型是一类生成模型，能够为扩散模型和流匹配模型实现少量步骤的生成。尽管一致性模型在图像等欧几里得空间上已取得令人鼓舞的成果，但由于黎曼流形具有弯曲几何结构，将其应用于黎曼流形仍然面临挑战。本文提出了黎曼一致性模型（RCM），首次实现了在尊重黎曼几何所施加的内在流形约束的前提下进行少量步数的一致性建模。通过利用协变导数和基于指数映射的参数化方法，我们推导出了离散时间和连续时间下RCM训练目标的闭式解。接着，我们证明了RCM两种变体之间的理论等价性：一种是依赖教师模型来逼近边缘向量场的黎曼一致性蒸馏（RCD），另一种是利用条件向量场进行训练的黎曼一致性训练（RCT）。我们进一步提出了一种简化的训练目标，避免了复杂的微分计算。最后，我们从独特的运动学视角对RCM的目标函数进行了解释，提供了新的理论视角。通过大量实验，我们展示了RCM在多种非欧几里得流形（包括平坦环面、球面以及三维旋转群SO(3)）上的少量步生成任务中卓越的生成质量。

论文试图解决在非欧几里得流形（如球面、环面、SO(3)等）上实现少步生成的挑战。传统的扩散模型和一致性模型主要在欧氏空间（如图像）中成功应用，但在具有弯曲几何结构的黎曼流形上难以保持流形约束，导致生成结果不满足内在几何结构。这是一个相对较新的问题，尤其在将一致性建模扩展到黎曼几何方面尚属首次探索。

提出黎曼一致性模型（RCM），首次实现了在尊重黎曼流形内在几何约束下的少步生成。核心思想是利用协变导数和指数映射参数化来构建适用于流形的连续与离散时间训练目标，并推导出闭式解。同时证明了两种变体——基于教师模型的黎曼一致性蒸馏（RCD）和使用条件向量场的黎曼一致性训练（RCT）——在理论上是等价的。此外，设计了一个简化的训练目标，避免复杂的微分计算，提升了实用性。

论文提供了对RCM目标函数的独特运动学解释，为理解模型提供了新的理论视角。实验在多种非欧流形（如平坦环面、球面、SO(3)）上验证了RCM在少步生成中的优越生成质量。训练目标简化后无需复杂微分运算，更易于实现。目前未提及是否开源代码，但该工作为后续在机器人姿态估计、分子构象生成、方向统计等领域应用打下基础，值得进一步研究推广至更多流形和实际任务。

1. Score-based generative modeling through stochastic differential equations 2. Flow Matching for Generative Modeling 3. Consistency Models 4. Riemannian diffusion models 5. Generating 3D rotations with diffusion models 6. Geometry-aware gradient methods for optimal transport on the sphere