[论文解读] Adaptive Expansion Bayesian Optimization for Unbounded Global Optimization

Wei Chen, Mark Fuge|arXiv (Cornell University)|Jan 12, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 18被引用 6

一句话总结

本文提出自适应扩展贝叶斯优化（AEBO），一种在优化过程中动态扩展搜索空间的方法，以处理无界全局优化问题，且无需预设边界。通过聚焦于低不确定性区域并自适应调整探索与利用的权衡，AEBO在合成函数和MNIST上MLP的超参数调优任务中均优于最先进方法。

ABSTRACT

Bayesian optimization is normally performed within fixed variable bounds. In cases like hyperparameter tuning for machine learning algorithms, setting the variable bounds is not trivial. It is hard to guarantee that any fixed bounds will include the true global optimum. We propose a Bayesian optimization approach that only needs to specify an initial search space that does not necessarily include the global optimum, and expands the search space when necessary. However, over-exploration may occur during the search space expansion. Our method can adaptively balance exploration and exploitation in an expanding space. Results on a range of synthetic test functions and an MLP hyperparameter optimization task show that the proposed method out-performs or at least as good as the current state-of-the-art methods.

研究动机与目标

• 解决贝叶斯优化中固定变量边界设置带来的挑战，这些边界可能排除全局最优解。
• 通过自适应控制不确定性阈值，避免在扩展搜索空间过程中过度探索。
• 在真实最优解位于初始边界之外时，实现有效的全局优化。
• 提升在以利用为主的优化问题（如Rosenbrock函数和MLP超参数调优）中的性能。
• 提供一种稳健且自适应的框架，在无界域中平衡探索与利用。

提出的方法

• 将低不确定性区域定义为高斯过程模型不确定性低于动态阈值的区域，限制在此区域内进行评估。
• 利用从遗憾最小化推导出的理论准则，自适应更新不确定性阈值，以防止过度探索。
• 随着新观测结果的加入，逐步提高不确定性阈值，从而扩展搜索空间，使算法能够探索新区域。
• 使用期望改进（EI）作为获取函数，在当前低不确定性区域内选择下一个评估点。
• 以用户指定的小范围初始边界启动搜索，该边界无需包含全局最优解。
• 在超参数调优中应用对数空间变换，以处理参数的宽动态范围。

实验结果

研究问题

• RQ1 当真实最优解位于固定初始边界之外时，贝叶斯优化能否有效找到全局最优解？
• RQ2 在无界优化中扩展搜索空间时，如何避免过度探索？
• RQ3 在扩展域中，何种自适应不确定性阈值策略能有效平衡探索与利用？
• RQ4 AEBO在合成与真实世界优化任务中，与FBO和EI-H等最先进方法相比表现如何？
• RQ5 在存在噪声观测及不同问题特性（如局部极小值与狭窄山谷）的情况下，AEBO是否保持鲁棒性？

主要发现

• AEBO在固定边界下优于标准贝叶斯优化，尤其当边界过小而无法包含全局最优解时表现更优。
• 在Rosenbrock函数上，采用自适应阈值的AEBO相比固定阈值配置，实现了更低的最优性差距，尤其能有效避免在狭窄山谷中的过度探索。
• 在Rastrigin函数上，由于在高局部极小值区域具有更高的探索效率，采用自适应阈值的AEBO优于固定阈值方法。
• 在MNIST的MLP超参数调优任务中，AEBO在性能上优于或等同于FBO-EI和EI-H，并优于使用大固定边界的贝叶斯优化。
• 在高斯噪声（σ = 0.1）下，AEBO保持鲁棒性，表现出一致的性能。
• 基于遗憾最小化推导出的自适应阈值策略，能有效防止过度探索，同时实现有效的搜索空间扩展。