Accelerating Multilevel Markov Chain Monte Carlo Using Machine Learning Models

本研究提出了一种有效的方法，利用低保真度的机器学习模型加速多层马尔可夫链蒙特卡罗采样（MCMC）用于大规模问题。传统的大规模贝叶斯推断技术通常使用机器学习模型替代计算昂贵的高保真度模型，从而引入近似误差。我们的方法提供了一种计算效率高的替代方案，通过在层次框架内增加低保真度模型来增强高保真度模型。多层方法利用低保真度机器学习模型（MLM）对提议样本进行廉价评估，从而提高高保真度模型接受样本的能力。我们的多层算法中的层次结构源自几何多重网格层次结构。我们利用MLM来加速粗糙层面的采样。为粗糙层面训练机器学习模型显著降低了生成训练数据和训练模型所需的计算成本。我们提出了一种MCMC算法，利用MLM加速最粗糙层面的采样，并考虑引入的近似误差。我们提供了详细平衡的理论证明，并证明我们的多层方法构成了一种一致的MCMC算法。此外，我们推导出机器学习模型准确性的条件，以促进更有效的分层采样。我们的技术在地下水流标准基准推断问题上进行了演示，我们使用四层MCMC算法估计感兴趣的数量的概率密度。我们提出的算法加速了多层采样两倍，同时实现了与使用标准多层算法进行采样相似的精度。

本文旨在提出一种有效的方法来加速大规模问题的多级马尔可夫链蒙特卡罗（MCMC）采样，使用低保真度机器学习模型。这篇论文试图解决的问题是如何在保证高精度的前提下，加速大规模贝叶斯推断的计算速度。

本文提出了一种多级算法，使用低保真度机器学习模型来加速MCMC采样。该算法利用低保真度机器学习模型对提议样本进行廉价评估，从而提高高保真度模型接受样本的概率。该算法中的层次结构来自于几何多重网格层次结构。

本文通过在高保真度模型中引入低保真度机器学习模型，提出了一种有效的多级算法来加速大规模贝叶斯推断的计算速度。论文提出的算法在一个标准的基准推断问题中进行了演示，并取得了比标准多级算法更快的加速效果。本文还提供了详细平衡的理论证明，并给出了关于机器学习模型准确性的条件，以促进更有效的分层采样。

在这个领域中，最近的相关研究包括：1. Efficient MCMC for Multiscale Inference with Hierarchical Low-Rank Approximations；2. Accelerating MCMC with Neural Network Proposals；3. Scalable Bayesian Inference with Hamiltonian Monte Carlo。