Multi-fidelity Bayesian Optimization in Engineering Design

MF BO是多保真度优化（MFO）和贝叶斯优化（BO）的交叉点，它在解决昂贵的工程设计优化问题方面找到了一席之地，这要归功于它在融合问题的物理和数学理解方面的优势，节省资源，解决开发-探索折衷，考虑不确定性和处理并行计算方面的优势。越来越多致力于MF BO的研究表明需要对这种先进的优化技术进行全面的审查。在本文中，我们调查了MF BO的两个关键要素的最新发展：基于高斯过程（GP）的MF代理和采集函数。我们首先对现有的MF建模方法和MFO策略进行分类，以将MF BO定位于基于代理的优化和MFO算法的大家族中。然后，我们利用MF BO每个要素之间共同的属性，描述重要的基于GP的MF代理模型，并回顾各种采集函数。通过这样做，我们期望提供对MF BO的结构化理解。最后，我们试图揭示需要进一步研究的重要方面，以在解决复杂而重要的设计优化问题方面应用MF BO，包括受限制的优化，高维优化，不确定性下的优化和多目标优化。

本文旨在综述多保真优化（MFO）和贝叶斯优化（BO）交叉领域中的MF BO的最新发展，以解决昂贵的工程设计优化问题。同时，还尝试揭示需要进一步研究的重要方面。

本文的关键思路是将高斯过程（GP）和收购函数作为MF BO的两个重要组成部分，对现有的MF建模方法和MFO策略进行分类，提出了重要的GP-based MF surrogate模型和各种收购函数。

本文的亮点在于对MF BO进行了全面的综述，包括其在物理和数学理解、资源节约、不确定性考虑、并行计算等方面的优势。此外，还对MF建模和MFO策略进行了分类，并提出了GP-based MF surrogate模型和各种收购函数。值得注意的是，本文还探讨了MF BO在解决复杂但重要的设计优化问题方面需要进一步研究的方面。

近期在这个领域中的相关研究包括： 1. Multi-fidelity Bayesian optimization with continuous auxiliary space models 2. Multi-fidelity optimization using Gaussian processes with inequality constraints 3. Multi-fidelity optimization via surrogate modeling and active learning 4. Multi-fidelity optimization of an unmanned aerial vehicle using a Bayesian framework