[论文解读] Sampling Acquisition Functions for Batch Bayesian Optimization

Alessandro De Palma, Celestine Mendler-Dünner+3 more|arXiv (Cornell University)|Mar 22, 2019

Advanced Bandit Algorithms Research参考文献 32被引用 7

一句话总结

该论文提出了一种新型批量贝叶斯优化方法——获取泰普森采样（Acquisition Thompson Sampling, ATS），通过从由模型超参数定义的随机过程采样获取函数，实现对任意顺序获取函数的高效并行化。与现有最先进方法如 P-TS、B-LCB 和 LP 相比，ATS 在基准函数和真实世界 XGBoost 超参数调优任务中均表现出更优的收敛性和更高的批量多样性。

ABSTRACT

We present Acquisition Thompson Sampling (ATS), a novel technique for batch Bayesian Optimization (BO) based on the idea of sampling multiple acquisition functions from a stochastic process. We define this process through the dependency of the acquisition functions on a set of model hyper-parameters. ATS is conceptually simple, straightforward to implement and, unlike other batch BO methods, it can be employed to parallelize any sequential acquisition function or to make existing parallel methods scale further. We present experiments on a variety of benchmark functions and on the hyper-parameter optimization of a popular gradient boosting tree algorithm. These demonstrate the advantages of ATS with respect to classical parallel Thompson Sampling for BO, its competitiveness with two state-of-the-art batch BO methods, and its effectiveness if applied to existing parallel BO algorithms.

研究动机与目标

• 开发一种通用方法，用于并行化贝叶斯优化中的任意顺序获取函数。
• 在不依赖固定景观修改的前提下，提升批量贝叶斯优化中的批量多样性与收敛性。
• 通过将超参数采样集成到其框架中，使现有并行 BO 方法能够进一步扩展规模。
• 证明通过模型超参数采样获取函数可提供足够的多样性，以实现高效的并行优化。

提出的方法

• ATS 通过从先验分布中抽取不同的超参数配置 θ，将每个配置视为来自随机过程的独立样本，从而采样获取函数。
• 每个批量点通过最大化一个独立的获取函数 a(x, θ_i) 选择，其中 θ_i 从超参数的后验分布中采样。
• 该方法引入抖动（j-ATS），通过从获取函数参数的先验分布中采样，进一步多样化探索与利用的权衡。
• 同时引入幻觉（h-ATS），通过修改数据后验而非直接修改代理模型，模拟待处理的评估，从而提升多样性。
• 该方法与现有批量 BO 方法正交，可应用于任意顺序获取函数，包括 EI、LCB 等。
• 该框架支持独立批量选择，也可用于增强现有并行算法（如 P-TS 和 B-LCB）

实验结果

研究问题

• RQ1 从与超参数相关的随机过程中采样获取函数，能否有效实现贝叶斯优化中任意顺序获取函数的并行化？
• RQ2 与传统的多样性机制（如局部惩罚或幻觉）相比，通过超参数采样所诱导的多样性如何？
• RQ3 ATS 是否能在合成与真实世界优化问题上超越或匹配当前最先进方法（如 B-LCB、LP 和 P-TS）？
• RQ4 将抖动与幻觉集成到采样框架中，是否能进一步提升在多峰或复杂目标函数上的性能？
• RQ5 ATS 在多大程度上可提升现有并行 BO 算法（如 P-TS 和 B-LCB）的效率？

主要发现

• 在五个基准函数上，ATS 均持续找到比并行泰普森采样（P-TS）更优的最小值，证明其具有更优的收敛性能。
• 引入抖动的 j-ATS 变体显著提升了批量多样性，减少了点的聚集现象，并消除了批量中低距离的异常点。
• 在 Higgs 数据集上，当批量大小为 20 时，j-ATS 在 XGBoost 超参数调优中实现了接近理想的加速比，优于 B-LCB 和 LP。
• 如 j-ATS 和 h-ATS 等增强方法可显著提升现有并行方法（如 P-TS 和 B-LCB）的性能，尤其在具有深谷函数中表现更优。
• 小提琴图显示，j-ATS 提高了批量点的平均距离，并消除了距离分布的下尾，证实了其多样性提升。
• ATS 在无需修改获取函数景观或代理模型的前提下，实现了与最先进方法相当或更优的性能。