[论文解读] Active Learning and Bayesian Optimization: a Unified Perspective to Learn with a Goal

Francesco Fiore, Michela Nardelli+1 more|arXiv (Cornell University)|Mar 2, 2023

Machine Learning and Algorithms参考文献 150被引用 6

一句话总结

本文将贝叶斯优化与主动学习统一为以目标为导向的自适应采样方法，形式化了其核心准则——利用/信息性与探索/代表性——在单保真度与多保真度设置下的等价性。主要贡献是一个原则性协同框架，显著提升了优化效率与鲁棒性，尤其在计算资源有限的情况下。

ABSTRACT

Science and Engineering applications are typically associated with expensive optimization problems to identify optimal design solutions and states of the system of interest. Bayesian optimization and active learning compute surrogate models through efficient adaptive sampling schemes to assist and accelerate this search task toward a given optimization goal. Both those methodologies are driven by specific infill/learning criteria which quantify the utility with respect to the set goal of evaluating the objective function for unknown combinations of optimization variables. While the two fields have seen an exponential growth in popularity in the past decades, their dualism and synergy have received relatively little attention to date. This paper discusses and formalizes the synergy between Bayesian optimization and active learning as symbiotic adaptive sampling methodologies driven by common principles. In particular, we demonstrate this unified perspective through the formalization of the analogy between the Bayesian infill criteria and active learning criteria as driving principles of both the goal-driven procedures. To support our original perspective, we propose a general classification of adaptive sampling techniques to highlight similarities and differences between the vast families of adaptive sampling, active learning, and Bayesian optimization. Accordingly, the synergy is demonstrated mapping the Bayesian infill criteria with the active learning criteria, and is formalized for searches informed by both a single information source and multiple levels of fidelity. In addition, we provide guidelines to apply those learning criteria investigating the performance of different Bayesian schemes for a variety of benchmark problems to highlight benefits and limitations over mathematical properties that characterize real-world applications.

研究动机与目标

• 将贝叶斯优化与主动学习在概念与方法上进行形式化整合，作为以共同学习目标驱动的自适应采样框架。
• 识别并映射主动学习准则（信息性、代表性/多样性）与贝叶斯填充准则（利用、探索）之间的双重性，作为采样效用的统一驱动力。
• 将统一视角扩展至多保真度设置，利用低保真度与高保真度数据源在计算约束下加速学习。
• 基于问题特性与资源可用性，提供选择最优学习准则的经验指导。
• 通过基准问题验证，平衡探索与利用可实现对多样化目标函数特性的更优且更鲁棒的优化性能。

提出的方法

• 提出一种自适应采样技术的通用分类，将贝叶斯优化与主动学习置于以目标为导向的学习共享框架中。
• 将主动学习中的信息性准则映射为贝叶斯优化的填充准则中的利用，二者均引导采样至预期改进最高或不确定性降低的区域。
• 将主动学习中的代表性/多样性准则映射为贝叶斯优化填充准则中的探索，二者均促进对整个定义域的覆盖与不确定性降低。
• 通过将低保真度模型作为辅助信息源，将形式化扩展至多保真度设置，以减少高保真度评估次数。
• 在单保真度与多保真度场景中均采用标准获取函数（如期望改进、熵搜索）来评估所提出的协同机制。
• 在具有不同数学特性的基准问题上进行实证评估（如非线性、多峰性、噪声、不连续性），以评估性能权衡。

实验结果

研究问题

• RQ1 在统一框架下，主动学习的核心准则（信息性、代表性/多样性）如何映射到贝叶斯优化的填充准则（利用、探索）？
• RQ2 当存在多个保真度层级时，如何形式化贝叶斯优化与主动学习之间的协同关系？
• RQ3 在多样化的目标函数特性下，平衡探索与利用对优化性能有何影响？
• RQ4 多保真度学习如何在计算资源受限的优化场景中提升计算效率与鲁棒性？
• RQ5 如何根据问题特性与可用计算资源，制定选择学习准则的实际指导原则？

主要发现

• 探索与利用之间的平衡始终优于单独使用任一准则，尤其在缺乏对目标函数先验知识时，能实现更优且更鲁棒的优化性能。
• 在高维问题中，纯探索或代表性/多样性策略可能导致性能显著下降，原因在于对搜索空间的采样效率低下。
• 多保真度学习方案通过利用快速的低保真度模型，显著减少了对高保真度评估的需求，从而实现显著的计算节省，并提升了对非光滑或非凸目标函数的鲁棒性。
• 所提出的统一框架使得主动学习与贝叶斯优化原则在单保真度与多保真度设置中的一致应用成为可能，增强了模型感知能力并加快收敛速度。
• 基于问题数学特性（如噪声、非线性）明智地选择获取函数，可带来更高效且可靠的优化结果。
• 信息性与利用、代表性/多样性与探索之间的形式化类比，为现实工程与科学应用中自适应采样策略的设计提供了原则性基础。