[论文解读] Truncated Variance Reduction: A Unified Approach to Bayesian Optimization and Level-Set Estimation

Ilija Bogunovic, Jonathan Scarlett+2 more|arXiv (Cornell University)|Oct 24, 2016

Gaussian Processes and Bayesian Inference被引用 34

一句话总结

本文提出了截断方差缩减（TruVaR），一种基于高斯过程的贝叶斯优化与水平集估计的统一算法。TruVaR 通过贪心地最小化潜在最大值集合或未分类点集合内的截断方差和来选择采样点，实现了理论保证，并能有效处理逐点评估成本、异方差噪声以及多噪声水平选择问题，具有更优的噪声依赖性与出色的实验性能。

ABSTRACT

We present a new algorithm, truncated variance reduction (TruVaR), that treats Bayesian optimization (BO) and level-set estimation (LSE) with Gaussian processes in a unified fashion. The algorithm greedily shrinks a sum of truncated variances within a set of potential maximizers (BO) or unclassified points (LSE), which is updated based on confidence bounds. TruVaR is effective in several important settings that are typically non-trivial to incorporate into myopic algorithms, including pointwise costs and heteroscedastic noise. We provide a general theoretical guarantee for TruVaR covering these aspects, and use it to recover and strengthen existing results on BO and LSE. Moreover, we provide a new result for a setting where one can select from a number of noise levels having associated costs. We demonstrate the effectiveness of the algorithm on both synthetic and real-world data sets.

研究动机与目标

• 在统一的算法框架下统一贝叶斯优化与水平集估计。
• 开发一种能有效处理逐点评估成本和异方差噪声的方法。
• 与先前工作相比，提供改进噪声水平依赖性的理论保证。
• 将该框架扩展到噪声水平可选且需支付相应成本的场景。
• 在合成数据与真实世界基准上展示出色的实验性能。

提出的方法

• TruVaR 维护一个潜在最大值集合（用于贝叶斯优化）或未分类点集合（用于水平集估计），并通过置信区间进行更新。
• 该算法通过最小化活跃集合内方差的截断和来选择下一个采样点。
• 采用一步前瞻策略，避免了像熵搜索或最小遗憾搜索那样昂贵的后验平均计算。
• 通过动态更新的 $β_t$ 参数控制探索，将置信区间与之结合。
• 通过根据成本和噪声水平加权方差缩减，支持逐点成本和异方差噪声。
• 在多噪声水平选择场景中，TruVaR 在具有相应成本的可用噪声水平上进行优化，使用统一的获取函数。

实验结果

研究问题

• RQ1 能否通过单一算法在统一框架下有效统一贝叶斯优化与水平集估计？
• RQ2 如何对方差缩减进行截断，以提升贝叶斯优化与水平集估计中的计算效率与理论分析？
• RQ3 能否为 TruVaR 在逐点成本与异方差噪声条件下的理论保证提供支持？
• RQ4 与现有方法相比，TruVaR 在小噪声极限下是否实现了更优的噪声依赖性？
• RQ5 TruVaR 能否扩展到噪声水平可选且需支付成本的场景？

主要发现

• TruVaR 在理论界 bounds 中显著改善了对噪声水平的依赖性，在小噪声区域表现出更优的渐近行为，优于先前工作。
• 该算法恢复并强化了在同方差噪声与单位成本条件下标准贝叶斯优化与水平集估计的现有理论结果。
• 对于可选多个噪声水平并附带成本的新型场景，TruVaR 提供了一项新的理论保证，平衡了成本与精度。
• 实验结果表明，TruVaR 在收敛速度与精度方面均优于现有方法，在合成数据与真实世界数据集上表现优异。
• 理论分析表明，为达到给定精度所需评估次数的规模随噪声水平与置信参数呈有利增长。
• 采用截断方差缩减可实现高效计算，无需后验平均，与熵搜索或最小遗憾搜索不同。