[论文解读] Are we Forgetting about Compositional Optimisers in Bayesian Optimisation?

Antoine Grosnit, Alexander I. Cowen-Rivers+4 more|arXiv (Cornell University)|Dec 15, 2020

Machine Learning and Algorithms参考文献 132被引用 14

一句话总结

本文提出了一种用于贝叶斯优化中获取函数最大化的组合优化框架，通过将流行的获取函数重新表述为可组合函数，以利用先进的优化技术。在3,958个合成与真实世界任务的广泛实验中，组合优化器在67%的案例中优于标准方法，展现出在样本效率和收敛速度方面的持续提升。

ABSTRACT

Bayesian optimisation presents a sample-efficient methodology for global optimisation. Within this framework, a crucial performance-determining subroutine is the maximisation of the acquisition function, a task complicated by the fact that acquisition functions tend to be non-convex and thus nontrivial to optimise. In this paper, we undertake a comprehensive empirical study of approaches to maximise the acquisition function. Additionally, by deriving novel, yet mathematically equivalent, compositional forms for popular acquisition functions, we recast the maximisation task as a compositional optimisation problem, allowing us to benefit from the extensive literature in this field. We highlight the empirical advantages of the compositional approach to acquisition function maximisation across 3958 individual experiments comprising synthetic optimisation tasks as well as tasks from Bayesmark. Given the generality of the acquisition function maximisation subroutine, we posit that the adoption of compositional optimisers has the potential to yield performance improvements across all domains in which Bayesian optimisation is currently being applied.

研究动机与目标

• 为贝叶斯优化中被低估的获取函数最大化挑战提供解决方案，该挑战对整体性能具有关键影响。
• 探究是否通过将获取函数重新表述为组合结构，可利用现代优化算法实现更有效的优化。
• 在多样化的黑箱优化任务中，对组合与非组合优化器的性能进行实证评估。
• 确定组合优化在合成与真实世界环境中是否具有持续优势，特别是在噪声较大或高维场景下。

提出的方法

• 通过将标准获取函数（如期望改进、预测熵搜索）表达为更简单、可微函数的复合形式，推导出其数学等价的组合形式。
• 将获取函数最大化问题重新构架为组合优化任务，从而能够使用先进的一阶优化器（如Adam、RMSProp和带动量的SGD）。
• 对获取函数的组合形式应用基于梯度的优化，允许通过整个函数复合结构进行反向传播，以高效计算梯度。
• 在3,958项实验中开展大规模实证评估，包括3,100个合成任务和来自Bayesmark基准的860个真实世界任务，使用多种模型（DT、RF、SVM、kNN等）和性能指标（MAE、MSE、NLL、准确率）。
• 在多个优化器类别（如Adam、CMA-ES、随机搜索）和聚合方法下，将组合优化器与标准非组合求解器进行比较。
• 通过优化器类别和获取函数的统计聚合，评估中位数、最佳和平均性能，并对每种模型和任务类型进行详细的箱线图分析。

实验结果

研究问题

• RQ1 获取函数能否被重新表述为组合函数，以实现利用现代基于梯度的方法进行更有效的优化？
• RQ2 在合成与真实世界的贝叶斯优化任务中，组合优化器与传统求解器相比，在收敛速度和最终性能方面表现如何？
• RQ3 组合优化器的性能优势是否因所优化的模型类别（如DT、RF、SVM）或性能指标（如MAE、准确率）而异？
• RQ4 在真实世界环境中，组合优化的优势是否在噪声大、高维或非凸的获取函数中保持一致？

主要发现

• 在3,958项实验中，组合优化器在67%的案例中优于非组合求解器，且在67%的案例中表现出统计上显著的提升。
• 在合成任务中，一阶组合优化器始终实现比其他方法更低的遗憾值，最佳表现出现在全部3,100项实验中。
• 在Bayesmark回归任务中，组合优化器在决策树和随机森林上的平均得分高于非组合方法，而SVM和kNN的表现则相当。
• 在分类任务中，组合方法在所有性能分组（最佳、中位数、平均）中均优于非组合方法，对随机森林表现一致，且在后期优化阶段（16次和128次评估）对决策树也表现出持续优势。
• 对于Lasso模型，组合优化器在更高的评估预算下表现出更好的中位数性能，尽管在最佳分组中表现最佳的一对出现了性能下降。
• 研究发现，优化器类别和聚合方法的选择显著影响性能，组合方法在DT和RF等模型中在回归和分类基准中均表现出显著优势。