[论文解读] Advancing Bayesian Optimization: The Mixed-Global-Local (MGL) Kernel and Length-Scale Cool Down

Kim P. Wabersich, Marc Toussaint|arXiv (Cornell University)|Dec 9, 2016

Advanced Multi-Objective Optimization Algorithms参考文献 12被引用 6

一句话总结

本文提出了一种新颖的贝叶斯优化框架，结合了基于获取函数驱动的长度尺度降温机制（alpha比值降温）与混合全局-局部（MGL）核函数，后者可建模局部凸多项式区域。该方法通过基于未来获取潜力自适应优化超参数，并显式编码局部优化效率，从而提升优化效率，在Rosenbrock、Hartmann及指数型目标函数等基准测试函数上优于当前最先进方法。

ABSTRACT

Bayesian Optimization (BO) has become a core method for solving expensive black-box optimization problems. While much research focussed on the choice of the acquisition function, we focus on online length-scale adaption and the choice of kernel function. Instead of choosing hyperparameters in view of maximum likelihood on past data, we propose to use the acquisition function to decide on hyperparameter adaptation more robustly and in view of the future optimization progress. Further, we propose a particular kernel function that includes non-stationarity and local anisotropy and thereby implicitly integrates the efficiency of local convex optimization with global Bayesian optimization. Comparisons to state-of-the art BO methods underline the efficiency of these mechanisms on global optimization benchmarks.

研究动机与目标

• 为解决标准超参数选择在贝叶斯优化中的局限性，特别是依赖过去数据的最大似然估计所导致的性能下降问题，该问题在局部最优或非平稳函数中尤为显著。
• 通过将超参数自适应与未来优化进展对齐，而非仅依赖过去数据拟合度，改进贝叶斯优化中的模型选择。
• 开发一种核函数，隐式建模局部凸、非各向同性区域，以在全局贝叶斯框架中整合局部模型优化的效率。
• 证明基于获取函数效用的在线超参数自适应，结合专用核函数，可显著优于当前最先进方法。

提出的方法

• 提出一种alpha比值降温机制，不通过过去数据的最大似然估计选择长度尺度超参数，而是基于下一个查询点的预期获取函数改进程度进行选择。
• 引入长度尺度值的下界启发式方法，以确保在优化初期对过拟合具有鲁棒性。
• 开发混合全局-局部（MGL）核函数，结合全局与局部协方差结构，用于建模目标函数呈局部凸且可被非各向同性二次形式良好近似的区域。
• 利用MGL核函数隐式支持局部二次插值与优化步骤，类似于拟牛顿法，从而提升局部收敛速度。
• 设计一种算法以检测搜索空间中的局部凸多项式区域，实现在全局贝叶斯框架内自适应启用局部优化策略。
• 在期望改进（EI）获取函数设置下，将alpha比值降温与MGL核函数结合，无需对超参数作先验假设。

实验结果

研究问题

• RQ1 能否通过基于未来获取潜力而非过去数据似然度来改进贝叶斯优化中的超参数自适应？
• RQ2 是否一种建模局部凸多项式区域的核函数能提升在非平稳、异方差或多峰函数上的优化性能？
• RQ3 基于获取函数效用的在线长度尺度自适应是否能在实际中优于最大似然估计与留一法交叉验证？
• RQ4 获取函数驱动的超参数自适应与专用MGL核函数的结合，相较于当前最先进贝叶斯优化方法，在多样化基准函数上的表现如何？

主要发现

• alpha比值降温方法在非平稳、异方差目标函数上显著优于留一法交叉验证与后验最优超参数，尤其在鲁棒性与收敛速度方面表现突出。
• 在Rosenbrock与指数型函数上，采用MGL核函数与alpha比值降温的所提方法，其遗憾值显著低于使用最优超参数的经典期望改进方法。
• 在Branin-Hoo与6维Hartmann函数上，所提方法优于当前最先进方法（包括PES与IMGPO），展现出更优的全局搜索效率。
• MGL核函数在具有非各向同性曲率的区域中实现了有效的局部优化，这在二次型与多维函数上的性能提升中得到验证。
• alpha比值降温与MGL核函数的结合在所有测试基准函数上均带来一致的性能提升，仅在Hartmann 3D函数上PES表现略优。
• 在标准情况下，该方法性能接近最优超参数；但在存在噪声或非平稳目标的现实鲁棒场景中，性能显著更优。