[论文解读] Adaptive and Safe Bayesian Optimization in High Dimensions via One-Dimensional Subspaces

Johannes Kirschner, Mojmír Mutný+3 more|arXiv (Cornell University)|Feb 8, 2019

Advanced Bandit Algorithms Research参考文献 40被引用 46

一句话总结

LineBO 将贝叶斯优化扩展到高维，通过解一系列一维子问题来实现，使用全局 GP 模型和随机（或启发式）方向；与 SafeOpt 结合时，提供具有理论保证的高维安全优化，并在 SwissFEL 上演示，参数多达 40 个。

ABSTRACT

Bayesian optimization is known to be difficult to scale to high dimensions, because the acquisition step requires solving a non-convex optimization problem in the same search space. In order to scale the method and keep its benefits, we propose an algorithm (LineBO) that restricts the problem to a sequence of iteratively chosen one-dimensional sub-problems that can be solved efficiently. We show that our algorithm converges globally and obtains a fast local rate when the function is strongly convex. Further, if the objective has an invariant subspace, our method automatically adapts to the effective dimension without changing the algorithm. When combined with the SafeOpt algorithm to solve the sub-problems, we obtain the first safe Bayesian optimization algorithm with theoretical guarantees applicable in high-dimensional settings. We evaluate our method on multiple synthetic benchmarks, where we obtain competitive performance. Further, we deploy our algorithm to optimize the beam intensity of the Swiss Free Electron Laser with up to 40 parameters while satisfying safe operation constraints.

研究动机与目标

• 为具有隐式约束的高维、带噪声的目标函数提供可扩展的贝叶斯优化的动机。
• 开发一种将高维问题分解为高效可解的一维子问题的方法。
• 提供收敛性保证并对函数的有效维度具有自适应性。
• 引入安全约束，在高维情形下实现有原则的安全优化。
• 在合成基准和真实世界应用（SwissFEL）上展示实际性能。

提出的方法

• 引入 LineBO：迭代求解一系列包含当前最佳点的一维仿射子空间子问题。
• 使用方向导盲 Pi 来选择子空间方向，通常为随机方向，得到 L_i = L(x_i, l_i)。
• 在直线上对每个一维子问题进行贝叶斯优化，同时通过全局 GP 模型共享信息。
• 可选地将子求解器替换为 SafeOpt，以获得 SafeLineBO，在隐式约束下实现安全保证。
• 提供理论分析：(i) 与有效维度 d_e 相关的全局收敛及收敛速率；(ii) 在强凸性条件下的局部线性收敛；(iii) 通过 1D 子空间上的最大信息增益 gamma_T 的信息理论界限。
• 讨论实践中的选择：下降方向启发式、坐标对齐方向，以及局部与全局探索权衡；强调每次迭代相对于完整高维 BO 的计算效率。

实验结果

研究问题

• RQ1 贝叶斯优化如何在保持全局优化能力的同时扩展到高维域？
• RQ2 高维 BO 能否适应不变子空间并在不事先了解有效维度的情况下有效地降低活动维度？
• RQ3 是否可以在高维 BO 中引入带有理论保证的安全约束？
• RQ4 与现有方法相比，LineBO 在标准基准和现实世界高维应用（如 SwissFEL）上的表现如何？

主要发现

• LineBO 在随机方向下实现全局收敛，当函数强凸时显示出较快的局部收敛速率。
• 该算法自适应地随函数的有效维度扩展，产生依赖于 d_e 的 Lipschitz 风格全局速率。
• SafeLineBO 通过 SafeOpt 子求解器扩展 LineBO，在高维中提供有原则的安全优化。
• 在合成基准上的经验结果显示相对于全量 BO 和 REMBO 变体具有竞争性表现和加速。
• 在 SwissFEL 光束线调谐，参数多达 40 个，LineBO（带安全性）优于 Nelder-Mead，在约 15 分钟内实现更高的脉冲能量。
• 该方法还提供实际效益，包括便于监控模型拟合与进度的用户友好切片图。