[论文解读] Recent Advances in Bayesian Optimization

Xilu Wang, Yaochu Jin+2 more|arXiv (Cornell University)|Jun 7, 2022

Advanced Bandit Algorithms Research被引用 8

一句话总结

本文全面综述了自2016年以来贝叶斯优化的最新进展，重点聚焦于代理建模和获取函数设计方面的创新，涵盖九类优化挑战，如高维性、约束条件、噪声以及多保真度设置。文章识别出在分布式、异构及公平优化方面存在的关键开放问题，尤其关注隐私保护和联邦系统中的挑战。

ABSTRACT

Bayesian optimization has emerged at the forefront of expensive black-box optimization due to its data efficiency. Recent years have witnessed a proliferation of studies on the development of new Bayesian optimization algorithms and their applications. Hence, this paper attempts to provide a comprehensive and updated survey of recent advances in Bayesian optimization and identify interesting open problems. We categorize the existing work on Bayesian optimization into nine main groups according to the motivations and focus of the proposed algorithms. For each category, we present the main advances with respect to the construction of surrogate models and adaptation of the acquisition functions. Finally, we discuss the open questions and suggest promising future research directions, in particular with regard to heterogeneity, privacy preservation, and fairness in distributed and federated optimization systems.

研究动机与目标

• 提供自2016年以来贝叶斯优化进展的系统性与最新综述，尤其关注代理建模和获取函数设计方面。
• 根据高维性、约束条件和噪声等优化挑战，将现有贝叶斯优化方法划分为九个不同的问题领域。
• 识别并突出分布式、异构及隐私保护型贝叶斯优化设置中的开放研究问题。
• 探索贝叶斯优化中公平性这一尚未充分开发的领域，特别是在协作学习和联邦学习情境下的应用。
• 通过提出在公平性、异构性和隐私保护方面具有前景的研究方向，为未来研究提供指导。

提出的方法

• 根据所解决的核心挑战，将贝叶斯优化研究划分为九类：高维空间、不连续域、噪声、约束条件、计算复杂度、多任务学习、多保真度、知识迁移和并行化。
• 回顾基于高斯过程的代理模型的进展，强调似然最大化以及模型对各种问题结构的适应能力。
• 分析获取函数的改进，以在探索与利用之间取得平衡，同时考虑搜索偏差和各目标评估时间差异。
• 提出并讨论 FairBO，一种使用辅助高斯过程模型在查询选择过程中强制执行公平性约束的约束型贝叶斯优化框架。
• 将分布式批量高斯过程-UCB算法扩展为引入基于基尼系数的社会评价函数，以在协作环境中平衡优化效率与公平性。
• 提出一种将公平性定义整合到贝叶斯优化中的框架，主张在算法集成前建立明确定义的公平性度量。

实验结果

研究问题

• RQ1 如何在函数评估次数极少的前提下，有效将贝叶斯优化适配于高维和不连续的搜索空间？
• RQ2 在协作或联邦设置中，将公平性约束有效整合到贝叶斯优化中的最有效策略是什么？
• RQ3 贝叶斯优化如何处理计算成本差异显著的异构目标函数？
• RQ4 在隐私保护和分布式优化系统中应用贝叶斯优化时，其主要挑战和开放问题是什么？
• RQ5 如何设计代理模型和获取函数，以确保优化结果在数据效率和公平性方面均表现良好？

主要发现

• 近年来贝叶斯优化的进展显著提升了在高维和约束优化问题中的性能，主要得益于高斯过程代理模型的精细化以及自适应获取函数的改进。
• FairBO 框架通过使用辅助高斯过程模型引导获取函数优化，成功地将公平性约束整合到贝叶斯优化中，但其仅适用于单一公平性定义。
• 分布式和联邦贝叶斯优化系统在效率与公平性之间面临挑战，引入‘公平遗憾’和基于基尼系数的评价函数提供了有希望的初步解决方案。
• 异构优化——即目标函数在计算成本上存在显著差异——仍处于研究空白状态，目前仅零星有研究探讨如何减少此类设置下的搜索偏差。
• 隐私保护型和公平性感知型贝叶斯优化尚处于萌芽阶段，尚未建立标准化的公平性度量或可扩展的算法。
• 将公平性整合到贝叶斯优化中，需要在开发有效算法解决方案之前，先建立明确定义的数学公平性概念。