[论文解读] Modeling an Augmented Lagrangian for Blackbox Constrained Optimization

Robert B. Gramacy, Genetha A. Gray+5 more|arXiv (Cornell University)|Mar 19, 2014

Advanced Multi-Objective Optimization Algorithms参考文献 28被引用 4

一句话总结

本文提出一种混合方法，结合高斯过程代理模型与增广拉格朗日（AL）框架，以解决约束条件昂贵且难以评估的黑箱优化问题。通过将增广拉格朗日函数建模为代理模型，并利用期望改进（expected improvement）进行全局搜索，该方法能够高效地探索复杂可行区域，在具有非凸可行集的真实水文基准问题上优于传统方法。

ABSTRACT

Constrained blackbox optimization is a difficult problem, with most approaches coming from the mathematical programming literature. The statistical literature is sparse, especially in addressing problems with nontrivial constraints. This situation is unfortunate because statistical methods have many attractive properties: global scope, handling noisy objectives, sensitivity analysis, and so forth. To narrow that gap, we propose a combination of response surface modeling, expected improvement, and the augmented Lagrangian numerical optimization framework. This hybrid approach allows the statistical model to think globally and the augmented Lagrangian to act locally. We focus on problems where the constraints are the primary bottleneck, requiring expensive simulation to evaluate and substantial modeling effort to map out. In that context, our hybridization presents a simple yet effective solution that allows existing objective-oriented statistical approaches, like those based on Gaussian process surrogates and expected improvement heuristics, to be applied to the constrained setting with minor modification. This work is motivated by a challenging, real-data benchmark problem from hydrology where, even with a simple linear objective function, learning a nontrivial valid region complicates the search for a global minimum. Supplementary materials for this article are available online.

研究动机与目标

• 解决现有统计方法在约束黑箱优化中缺乏适用性的问题，特别是当约束条件昂贵且难以评估、且非平凡时。
• 克服现有统计方法将约束视为二值化或忽略与可行边界距离的局限性。
• 开发一种框架，结合代理建模的全局搜索与增广拉格朗日框架的局部优化，以提升收敛性与可行性。
• 通过将增广拉格朗日函数建模为代理目标函数，使期望改进启发式方法可应用于约束优化问题。
• 在具有简单线性目标但因基于模拟的约束导致高度非凸可行区域的真实水文问题上，验证方法的有效性。

提出的方法

• 使用高斯过程代理模型对约束优化问题的增广拉格朗日函数进行建模，以支持全局探索。
• 在增广拉格朗日函数的代理模型上应用期望改进（EI），以指导序列采样，并平衡探索与利用。
• 通过惩罚项与对偶变量将约束问题转化为无约束问题，利用增广拉格朗日框架处理约束。
• 使用二次模型与基于梯度范数的早期终止策略，对增广拉格朗日子问题应用信赖域优化。
• 采用混合策略：统计模型负责全局探索，而增广拉格朗日框架则将搜索聚焦于最优解附近。
• 在经典比较方法中容忍小的约束违反（≤10⁻³）以确保公平性能评估，而所提方法则严格保证可行性。

实验结果

研究问题

• RQ1 将增广拉格朗日函数的代理模型用于约束黑箱优化，是否能提升昂贵约束条件下的全局收敛性？
• RQ2 将期望改进与增广拉格朗日框架结合，相较于经典方法与统计方法，在可行性与收敛速度方面表现如何？
• RQ3 与原始目标函数或约束条件相比，对增广拉格朗日函数建模在非凸可行区域上的优化性能提升程度如何？
• RQ4 该混合方法在具有简单目标但复杂模拟约束的真实问题中效果如何？
• RQ5 所提方法是否在实现比允许约束违反的方法更快收敛的同时，仍能保持严格可行性？

主要发现

• 所提方法成功导航了真实水文基准中高度非凸的可行区域，找到了标准方法难以触及的全局最小值。
• 混合方法在收敛速度与可行性方面优于经典增广拉格朗日求解器（如NOMAD）与随机优化（SA）。
• 通过将增广拉格朗日函数建模为代理模型，该方法结合了期望改进的全局搜索能力与增广拉格朗日框架的局部收敛性。
• 该方法在整个优化过程中保持严格可行性（无约束违反），而经典比较方法虽容忍小违反以保证公平性，表明本方法更具鲁棒性。
• 即使目标函数简单（线性），该方法仍表现出色，凸显其在约束主导难度问题中的价值。
• 对增广拉格朗日函数使用代理模型，可高效利用有限的黑箱评估预算，尤其在高维与非凸场景下表现优异。