[论文解读] Scalable Constrained Bayesian Optimization

David Eriksson, Matthias Poloczek|arXiv (Cornell University)|Feb 20, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 60被引用 18

一句话总结

该论文提出了一种新型算法——可扩展约束贝叶斯优化（SCBO），通过使用局部代理模型、信任区域和批量异步评估，在高维黑箱约束优化中实现了高效求解。SCBO在具有挑战性的基准测试中表现卓越，包括具有68个约束的124维车辆设计问题，并为社区引入了两个新的高维测试问题。

ABSTRACT

The global optimization of a high-dimensional black-box function under black-box constraints is a pervasive task in machine learning, control, and engineering. These problems are challenging since the feasible set is typically non-convex and hard to find, in addition to the curses of dimensionality and the heterogeneity of the underlying functions. In particular, these characteristics dramatically impact the performance of Bayesian optimization methods, that otherwise have become the de facto standard for sample-efficient optimization in unconstrained settings, leaving practitioners with evolutionary strategies or heuristics. We propose the scalable constrained Bayesian optimization (SCBO) algorithm that overcomes the above challenges and pushes the applicability of Bayesian optimization far beyond the state-of-the-art. A comprehensive experimental evaluation demonstrates that SCBO achieves excellent results on a variety of benchmarks. To this end, we propose two new control problems that we expect to be of independent value for the scientific community.

研究动机与目标

• 解决现有贝叶斯优化方法在高维、约束型黑箱优化中的局限性，传统方法因维度灾难和非凸可行区域而失效。
• 开发一种可扩展算法，支持大规模批量评估和异步函数评估，这对于具有昂贵函数评估的实际应用至关重要。
• 引入新的高维测试问题，以反映现实世界的复杂性，并作为未来约束型贝叶斯优化研究的基准。
• 克服维度灾难以及目标函数和约束函数之间的异质性，这些因素会降低标准代理方法的性能。
• 实现在机器人、航空航天和工程等领域的实际优化，其中安全和性能约束至关重要。

提出的方法

• SCBO采用信任区域框架，在有希望的点周围维护局部高斯过程（GP）代理模型，从而实现在高维空间中的可扩展优化。
• 它使用一种改进的期望改进获取函数，同时结合目标函数改进和可行性概率，确保对可行区域的探索。
• 通过解耦获取和评估过程，该算法支持大规模批量和异步评估，在并行设置中提高了样本效率。
• 当进展停滞时，它会动态重启信任区域，利用失败计数器自适应地重新中心局部搜索空间。
• 对目标函数和约束函数应用稳健变换，以处理不良缩放和异质性，提高收敛稳定性。
• 该方法采用局部模型而非全局代理，降低了计算成本，并在高维空间中提高了建模精度。

实验结果

研究问题

• RQ1 贝叶斯优化能否在高维问题中有效扩展，以应对昂贵的黑箱约束，而传统方法因维度灾难和非凸性而失效？
• RQ2 如何在不牺牲收敛性或可行性的情况下，原生支持约束型贝叶斯优化中的批量和异步评估？
• RQ3 与全局GP模型相比，使用信任区域的局部代理建模在高维约束优化中的性能表现如何？
• RQ4 稳健的函数变换和自适应信任区域重启能否显著提升在缩放不良或异质的目标与约束函数中的收敛性能？
• RQ5 需要哪些新的、具有挑战性的基准测试，以评估在真实高维场景下可扩展约束贝叶斯优化的性能？

主要发现

• SCBO在高维约束基准测试中优于所有先前的最先进方法，包括此前对贝叶斯优化不可行的124维MOPTA08问题（含68个约束）。
• 在30维Keane基准测试中，SCBO在收敛速度和最终解质量方面均优于现有方法，尽管该函数具有非平稳性和复杂结构。
• 在60维火星车轨迹规划问题中，SCBO成功找到了可行且高回报的轨迹，而其他方法或失败或收敛缓慢。
• 在5维Rosenbrock函数上，由于自适应信任区域和函数变换，SCBO表现出快速收敛，即使约束条件缩放不良。
• 在60维火星车问题中，SCBO的平均重启频率为2710次迭代，表明其能有效适应复杂且高维的可行区域。
• 引入的两个新高维测试问题——12维月球着陆器控制和124维车辆设计——为未来可扩展约束优化研究提供了宝贵的基准。