[论文解读] Bayesian Multi-Scale Optimistic Optimization

Ziyu Wang, Babak Shakibi+2 more|arXiv (Cornell University)|Feb 27, 2014

Advanced Bandit Algorithms Research参考文献 33被引用 53

一句话总结

本文提出贝叶斯多尺度乐观优化（BaMSOO），一种全局优化方法，通过将高斯过程置信区间与树形并行乐观优化相结合，消除了对辅助获取函数优化的需求。通过将基于GP的剪枝机制整合进SOO的多尺度探索中，BaMSOO在基准函数和真实世界术语提取任务上实现了更快的收敛速度和更优的性能，且具备无需精确获取函数优化的有限时间遗憾界理论保证。

ABSTRACT

Bayesian optimization is a powerful global optimization technique for expensive black-box functions. One of its shortcomings is that it requires auxiliary optimization of an acquisition function at each iteration. This auxiliary optimization can be costly and very hard to carry out in practice. Moreover, it creates serious theoretical concerns, as most of the convergence results assume that the exact optimum of the acquisition function can be found. In this paper, we introduce a new technique for efficient global optimization that combines Gaussian process confidence bounds and treed simultaneous optimistic optimization to eliminate the need for auxiliary optimization of acquisition functions. The experiments with global optimization benchmarks and a novel application to automatic information extraction demonstrate that the resulting technique is more efficient than the two approaches from which it draws inspiration. Unlike most theoretical analyses of Bayesian optimization with Gaussian processes, our finite-time convergence rate proofs do not require exact optimization of an acquisition function. That is, our approach eliminates the unsatisfactory assumption that a difficult, potentially NP-hard, problem has to be solved in order to obtain vanishing regret rates.

研究动机与目标

• 为解决标准贝叶斯优化中依赖昂贵且常不精确的获取函数辅助优化所导致的计算瓶颈与理论局限性。
• 开发一种全局优化算法，避免在每次迭代中求解NP难的获取函数最大化问题。
• 结合高斯过程置信区间与并行乐观优化的优势，以提升效率与收敛性。
• 在不需精确优化获取函数的前提下，提供有限时间收敛保证。
• 在合成基准与真实世界应用（如术语提取）中，证明其相对于GP-UCB与SOO的实用优越性。

提出的方法

• 将基于高斯过程后验分布的上置信界（UCB）获取函数整合进树形并行乐观优化（SOO）框架。
• 使用空间划分树同时探索多个尺度，扩展具有高上置信界的叶节点。
• 应用基于GP的剔除机制，过滤掉SOO提出的低置信度点，提升采样效率。
• 采用多尺度探索策略，每层最多保留一个叶节点，确保对搜索空间的广泛覆盖。
• 依赖于高斯过程后验标准差随邻近采样线性减小的理论界，支持有限时间遗憾分析。
• 通过每次迭代仅运行一次SOO，避免迭代式获取函数优化，显著降低计算开销。

实验结果

研究问题

• RQ1 我们能否在不牺牲或甚至提升收敛速度的前提下，消除贝叶斯优化中对获取函数辅助优化的需求？
• RQ2 如何将乐观优化的全局探索能力与高斯过程模型的局部精度相结合？
• RQ3 一种不依赖精确获取函数最大化的贝叶斯优化算法，其有限时间收敛行为如何？
• RQ4 基于GP的剪枝机制是否能提升在高维或昂贵函数设置下的乐观优化效率？
• RQ5 在真实世界与合成优化任务中，该方法与标准GP-UCB和SOO相比，实际表现如何？

主要发现

• BaMSOO在标准全局优化基准测试中优于GP-UCB，以显著更低的计算成本获得更优的最终目标值。
• 在测试的基准函数上，BaMSOO比GP-UCB快10至40倍，原因在于消除了迭代式获取函数优化。
• 在GENIA语料库上的术语提取应用中，BaMSOO的F值高于GP-UCB与SOO，证明其在真实世界NLP任务中的优越性能。
• 该算法实现了多项式遗憾率，且理论保证无需精确优化获取函数。
• 尽管在α=2时收敛速率不如SOO，但BaMSOO凭借有效的基于GP的剪枝与多尺度探索，仍保持了强劲的实证表现。
• 该方法的性能受限于GP标准差随邻近采样呈线性而非二次衰减，这影响了理论收敛速率。