[论文解读] Bayesian optimization under mixed constraints with a slack-variable augmented Lagrangian

Victor Picheny, Robert B. Gramacy+2 more|arXiv (Cornell University)|May 31, 2016

Advanced Multi-Objective Optimization Algorithms参考文献 20被引用 50

一句话总结

该论文提出了一种新颖的带松弛变量的增广拉格朗日（ALBO）框架，用于处理混合等式与不等式约束下的贝叶斯优化，通过数值积分而非蒙特卡洛采样实现高效的期望改进（EI）计算。与以往基于增广拉格朗日（AL）的贝叶斯优化及传统约束优化方法相比，该方法提升了全局收敛性并减少了黑箱函数评估次数。

ABSTRACT

An augmented Lagrangian (AL) can convert a constrained optimization problem into a sequence of simpler (e.g., unconstrained) problems, which are then usually solved with local solvers. Recently, surrogate-based Bayesian optimization (BO) sub-solvers have been successfully deployed in the AL framework for a more global search in the presence of inequality constraints; however, a drawback was that expected improvement (EI) evaluations relied on Monte Carlo. Here we introduce an alternative slack variable AL, and show that in this formulation the EI may be evaluated with library routines. The slack variables furthermore facilitate equality as well as inequality constraints, and mixtures thereof. We show how our new slack "ALBO" compares favorably to the original. Its superiority over conventional alternatives is reinforced on several mixed constraint examples.

研究动机与目标

• 为解决现有贝叶斯优化方法在黑箱优化中无法原生处理混合等式与不等式约束的问题。
• 克服以往基于增广拉格朗日（AL）方法在约束贝叶斯优化中采用蒙特卡洛方法评估期望改进（EI）时计算效率低下的问题。
• 提出一种可实现高效、基于库的数值积分的EI计算公式，提升可扩展性与精度。
• 将基于增广拉格朗日的贝叶斯优化方法拓展至包含等式约束的混合约束问题，此类问题此前难以处理。
• 通过实验验证所提出的ALBO方法在收敛速度与解质量方面优于现有方法。

提出的方法

• 引入不等式约束的松弛变量重构方法，将不等式约束转化为带松弛变量的等式约束，统一处理混合约束。
• 采用增广拉格朗日（AL）框架，将约束问题转化为一系列无约束子问题，通过贝叶斯优化求解。
• 以基于数值积分的Davies算法替代蒙特卡洛方法评估期望改进（EI），实现更快、更精确的EI计算。
• 使用高斯过程（GP）代理模型对目标函数与约束函数进行建模，并将EI获取函数适配至松弛变量的AL公式。
• 迭代应用ALBO框架，更新拉格朗日乘子与惩罚参数，以在后续贝叶斯优化子问题中强制满足约束。
• 对累积非中心非中心卡方分布的Davies算法实现向量化计算，加速对多个候选点的EI计算。

实验结果

研究问题

• RQ1 基于松弛变量的增广拉格朗日重构是否能实现在混合约束下贝叶斯优化中高效且精确的期望改进（EI）计算？
• RQ2 所提出的ALBO方法在收敛速度与解质量方面，相较于原始AL-based贝叶斯优化方法及传统约束优化方法表现如何？
• RQ3 ALBO框架在处理等式约束方面有多高效，尤其与将等式约束重表述为双重不等式约束的方法相比如何？
• RQ4 与蒙特卡洛采样相比，使用数值积分是否显著提升了约束贝叶斯优化中EI评估的计算效率？
• RQ5 ALBO在不可行或病态约束区域下是否具有鲁棒性？在违反约束规范条件下是否仍能保持性能？

主要发现

• ALBO方法通过数值积分实现了EI的精确、快速且向量化评估，消除了计算成本高昂的蒙特卡洛采样需求。
• 与原始AL-based贝叶斯优化方法相比，ALBO在混合等式与不等式约束问题中表现出更优的收敛性能。
• 在LSQ、GSBP与LAH等基准问题上，ALBO达到最优解所需的黑箱评估次数少于传统方法。
• 即使在约束规范被违反或可行域为空的情况下，该方法仍表现出鲁棒性，维持稳定的收敛行为。
• 实证结果表明，ALBO在更少昂贵函数评估次数下，能比经典局部求解器及其他统计贝叶斯优化方法找到更优的全局解。
• 通过引入松弛变量将不等式约束重构为等式约束，实现了对混合约束的统一处理，提升了数值稳定性与算法简洁性。