A Quadrature Approach for General-Purpose Batch Bayesian Optimization via Probabilistic Lifting

在贝叶斯优化中，并行化是一种常见的策略，但面临着几个挑战：需要灵活的收集函数和内核选择，同时处理离散和连续变量的灵活性，模型规范不准确以及快速大规模并行化。为了解决这些挑战，我们引入了一种通过概率提升和内核积分进行批量贝叶斯优化的通用模块化框架，称为SOBER，并将其作为基于GPyTorch/BoTorch的Python库进行介绍。我们的框架提供以下独特的优点：(1)在统一的方法下具有下游任务的多功能性。(2)无梯度采样器，不需要收集函数的梯度，提供领域无关的采样（例如，离散和混合变量，非欧几里得空间）。(3)领域先验分布的灵活性。(4)自适应批量大小（自主确定最佳批量大小）。(5)对误指定的再生核希尔伯特空间的鲁棒性。(6)自然停止标准。

本论文旨在解决贝叶斯优化中的并行化问题，包括灵活的收集函数和核选择、同时处理离散和连续变量、模型规范错误以及快速大规模并行化。

论文提出了一种名为SOBER的基于概率提升和核积分的批量贝叶斯优化框架，可以处理多种下游任务，提供梯度自由采样器、灵活的领域先验分布、自适应批量大小、鲁棒性和自然停止标准。

该框架可以处理多种下游任务，提供梯度自由采样器、灵活的领域先验分布、自适应批量大小、鲁棒性和自然停止标准。实验表明，SOBER在各种任务中都表现出色，并且在大规模并行化方面具有很高的效率。

近期的相关研究包括《Scalable Bayesian Optimization Using Deep Neural Networks》、《Bayesian Optimization with Gradients》等。