[论文解读] Batch Bayesian Optimization via Local Penalization

Javier González, Zhenwen Dai+2 more|arXiv (Cornell University)|May 29, 2015

Gaussian Processes and Bayesian Inference被引用 218

一句话总结

本文提出批量贝叶斯优化的局部惩罚方法（BBP-LP），一种计算高效的启发式方法，利用估计的利普希茨常数在批量点之间施加局部排斥，避免对批量交互作用进行昂贵的联合建模。该方法在性能上可与复杂的批量贝叶斯优化方法相媲美，同时仅带来极少的计算开销，在基准函数和真实世界实验中，其收敛速度和实际运行时间显著优于顺序方法及其他批量方法。

ABSTRACT

The popularity of Bayesian optimization methods for efficient exploration of parameter spaces has lead to a series of papers applying Gaussian processes as surrogates in the optimization of functions. However, most proposed approaches only allow the exploration of the parameter space to occur sequentially. Often, it is desirable to simultaneously propose batches of parameter values to explore. This is particularly the case when large parallel processing facilities are available. These facilities could be computational or physical facets of the process being optimized. E.g. in biological experiments many experimental set ups allow several samples to be simultaneously processed. Batch methods, however, require modeling of the interaction between the evaluations in the batch, which can be expensive in complex scenarios. We investigate a simple heuristic based on an estimate of the Lipschitz constant that captures the most important aspect of this interaction (i.e. local repulsion) at negligible computational overhead. The resulting algorithm compares well, in running time, with much more elaborate alternatives. The approach assumes that the function of interest, $f$, is a Lipschitz continuous function. A wrap-loop around the acquisition function is used to collect batches of points of certain size minimizing the non-parallelizable computational effort. The speed-up of our method with respect to previous approaches is significant in a set of computationally expensive experiments.

研究动机与目标

• 为解决批量贝叶斯优化中的计算瓶颈问题，即对批量点之间交互作用进行建模的高昂成本。
• 通过设计避免冗余或聚集评估的批量，实现对昂贵黑箱函数的高效并行评估。
• 开发一种启发式方法，以极低的计算开销捕捉关键的交互效应——局部排斥。
• 与现有批量和顺序贝叶斯优化方法相比，提升收敛速度和实际运行效率。
• 提供一种可扩展的、与采集函数无关的方法，适用于高成本函数评估的真实世界问题。

提出的方法

• 该方法引入一种带惩罚的采集函数，利用目标函数的估计利普希茨常数在批量点之间施加局部排斥。
• 不通过完整的联合高斯过程推断来建模批量点之间的交互，而是通过一种启发式惩罚项，防止点在输入空间中过于接近。
• 该惩罚项基于函数的L-利普希茨连续性，确保批量中相邻的点不会产生相似的函数值。
• 该方法避免在每次添加点后重新计算高斯过程后验分布，相比完整批量优化，显著降低了计算成本。
• 可兼容任意采集函数（如期望改进、置信上界），具有广泛适用性。
• 当无数据可用时，该方法自然建议采用拉丁超立方设计进行初始批量选择。

实验结果

研究问题

• RQ1 基于利普希茨连续性的简单启发式方法，是否能在不进行完整联合建模的情况下，有效建模贝叶斯优化中的批量交互？
• RQ2 所提出的局部惩罚方法在性能和效率方面，与更复杂的批量贝叶斯优化方法相比如何？
• RQ3 在并行评估约束下，该方法是否保持或提升收敛速度和最终解的质量，相比顺序贝叶斯优化？
• RQ4 该方法能否在多种问题类型中高效应用，包括合成函数以及真实世界中的机器学习和湿实验？
• RQ5 该方法在保持批量选择质量的同时，能在多大程度上降低计算开销？

主要发现

• 在Cosines函数上，BBP-LP（LP-EI和LP-UCB）在10轮批量后，收敛速度和实际运行时间显著优于其他批量和顺序方法。
• 在湿实验中，函数评估成本更高，LP-UCB表现最佳，证明了其在高成本评估下的卓越效率。
• 在SVR超参数调优任务中，所有批量方法均因并行化优于顺序策略，而BBP-LP在极低开销下保持了强劲性能。
• 该方法在计算成本可忽略不计的情况下，实现了与复杂批量方法相当或更优的结果，使其在大规模或高成本问题中极具效率。
• 基于利普希茨的惩罚有效捕捉了局部排斥，实现了比随机或无惩罚的批量策略更优的探索效果。
• 该方法在不同采集函数（EI和UCB）下表现稳健，证实了其通用性和可扩展性。