[論文レビュー] Bayesian optimization under mixed constraints with a slack-variable augmented Lagrangian

Victor Picheny, Robert B. Gramacy+2 more|arXiv (Cornell University)|May 31, 2016

Advanced Multi-Objective Optimization Algorithms参考文献 20被引用数 50

ひとこと要約

本稿では、混合等式制約と不等式制約を伴うベイズ最適化のための新規なスラック変数拡張ラグランジュ（ALBO）フレームワークを提案する。この手法により、モンテカルロサンプルを用いた代わりに数値積分を用いることで、期待改善（EI）の計算が効率的に行える。従来のALベースのBOおよび従来の制約付き最適化手法と比較して、グローバル収束性が向上し、ブラックボックス評価回数が削減される。

ABSTRACT

An augmented Lagrangian (AL) can convert a constrained optimization problem into a sequence of simpler (e.g., unconstrained) problems, which are then usually solved with local solvers. Recently, surrogate-based Bayesian optimization (BO) sub-solvers have been successfully deployed in the AL framework for a more global search in the presence of inequality constraints; however, a drawback was that expected improvement (EI) evaluations relied on Monte Carlo. Here we introduce an alternative slack variable AL, and show that in this formulation the EI may be evaluated with library routines. The slack variables furthermore facilitate equality as well as inequality constraints, and mixtures thereof. We show how our new slack "ALBO" compares favorably to the original. Its superiority over conventional alternatives is reinforced on several mixed constraint examples.

研究の動機と目的

• ブラックボックス最適化において、等式制約と不等式制約を同時にネイティブに扱えるベイズ最適化手法の不足を解消すること。
• 従来の拡張ラグランジュ（AL）手法における制約付きBOの期待改善（EI）評価にモンテカルロ法を用いることによる計算非効率性を克服すること。
• EI計算に効率的でライブラリベースの数値積分を可能にする定式化を開発し、スケーラビリティと精度を向上させること。
• ALベースのBOの適用範囲を、等式制約を含む混合制約問題に拡張すること、これは従来、取り扱いが困難であった。
• 収束速度および解の品質という観点から、提案手法ALBOが既存の代替手法を実験的に上回ることを検証すること。

提案手法

• 不等式制約をスラック変数を用いて等式制約に再定式化し、混合制約の統一的取り扱いを可能にする。
• 拡張ラグランジュ（AL）フレームワークを用いて制約付き問題を、逐次的な無制約部分問題に変換し、これらをベイズ最適化で解く。
• モンテカルロベースの期待改善（EI）評価を、Daviesアルゴリズムを用いた数値積分に置き換え、EI計算を高速かつ高精度に実現する。
• ガウス過程（GP）を用いて目的関数および制約関数を代理モデル化し、スラック変数を含むAL定式化に適合したEI獲得関数を採用する。
• ALBOフレームワークを繰り返し適用し、ラグランジュ乗数およびペナルティパラメータを更新することで、以降のBO部分問題における制約の満たしを強制する。
• 複数の候補点にわたる累積非心非中心カイ二乗分布の数値積分を、ベクトル化されたDaviesルーチンで高速化する。

実験結果

リサーチクエスチョン

• RQ1 拡張ラグランジュのスラック変数再定式化は、混合制約下での期待改善（EI）計算を効率的かつ正確に行えるか？
• RQ2 提案されたALBO手法は、元のALベースBOおよび従来の制約付き最適化手法と比較して、収束速度および解の品質においてどのように差をつけるか？
• RQ3 ALBOフレームワークは等式制約をどれほど効果的に処理できるか。特に、それらを二重不等式制約に再定式化する手法と比較して。
• RQ4 モンテカルロサンプルの代わりに数値積分を用いることで、制約付きBOにおけるEI評価の計算効率が著しく向上するか？
• RQ5 ALBOは、不可行領域または病的な制約領域においても頑健であるか。また、制約準拠の違反が生じても性能を維持できるか？

主な発見

• ALBO手法により、モンテカルロサンプルの計算コストを回避する、正確で高速かつベクトル化可能なEI評価が可能になった。
• 特に等式制約と不等式制約が混合する問題において、元のALベースBO手法と比較して優れた収束性能を達成した。
• LSQ、GSBP、LAHといったベンチマーク問題において、従来の代替手法と比較して最適解に到達するためのブラックボックス評価回数が少なかった。
• 制約準拠が満たされない場合や、実行可能領域が空集合であっても、安定した収束行動を示し、頑健性を示した。
• 実験的結果から、ALBOは古典的局所最適化ソルバーや他の統計的BOアプローチを上回り、高価な関数評価回数を減らしつつより優れたグローバル解を発見できた。
• 不等式制約を等式に再定式化するスラック変数の使用により、混合制約の統一的取り扱いが可能となり、数値的安定性とアルゴリズムの単純さが向上した。