Convergence of Kinetic Langevin Monte Carlo on Lie groups

2024年03月18日
  • 简介
    最近,基于变分优化和左平移等技术,构建了一种优化李群上函数的显式动量动力学。我们适当地添加可处理的噪声到优化动力学中,将其转化为采样动力学,利用动量变量是欧几里得的这一优势,尽管潜在函数存在于流形上。然后,我们通过精细地离散化所得到的动量-朗之万型采样动力学,提出了一种李群MCMC采样器。这种离散化完全保留了李群结构。在W2距离下,连续动力学和离散采样器的指数收敛性和显式收敛率都得到了证明。只需李群的紧致性和潜在函数的测地L-平滑性。据我们所知,这是第一个在曲面上应用动量朗之万的收敛结果,也是第一个不需要凸性或至少不需要明确要求任何共同放松(如等周性)的定量结果。
  • 图表
  • 解决问题
    本论文旨在构建一种基于动量的优化动态,用于优化Lie群上的函数,并将其转化为可采样的动态,最终提出了一种Lie群MCMC采样器。
  • 关键思路
    论文的关键思路是将动量变量与潜在函数变量分离,通过添加可追踪的噪声将优化动态转化为采样动态,然后通过精细离散化来保留Lie群结构,最终证明了连续动态和离散采样器在W2距离下的指数收敛性。
  • 其它亮点
    该论文提出的方法是第一种在曲面上应用动量Langevin的收敛分析,并且不需要凸性或同构性等常见的松弛条件。该论文还提供了实验结果,并且使用了一些开源数据集。
  • 相关研究
    最近在这个领域中,还有一些相关的研究,如“Hamiltonian Monte Carlo on Riemannian manifolds”和“Riemannian Langevin Monte Carlo with an Application to Online Learning”。
PDF
原文
点赞 收藏 评论 分享到Link

沙发等你来抢

去评论