[論文レビュー] Scalable Constrained Bayesian Optimization

David Eriksson, Matthias Poloczek|arXiv (Cornell University)|Feb 20, 2020

Advanced Multi-Objective Optimization Algorithms参考文献 60被引用数 18

ひとこと要約

本論文では、局所的補間モデル、信頼領域、バッチ化・非同期評価を用いて、ブラックボックス制約下でのスケーラブルで高次元なベイズ最適化を実現する新規アルゴリズム、スケーラブル制約付きベイズ最適化（SCBO）を提案する。SCBOは、124次元の車両設計（68個の制約を伴う）を含む困難なベンチマークで最先端の性能を達成し、コミュニティ向けに2つの新しい高次元テスト問題を導入する。

ABSTRACT

The global optimization of a high-dimensional black-box function under black-box constraints is a pervasive task in machine learning, control, and engineering. These problems are challenging since the feasible set is typically non-convex and hard to find, in addition to the curses of dimensionality and the heterogeneity of the underlying functions. In particular, these characteristics dramatically impact the performance of Bayesian optimization methods, that otherwise have become the de facto standard for sample-efficient optimization in unconstrained settings, leaving practitioners with evolutionary strategies or heuristics. We propose the scalable constrained Bayesian optimization (SCBO) algorithm that overcomes the above challenges and pushes the applicability of Bayesian optimization far beyond the state-of-the-art. A comprehensive experimental evaluation demonstrates that SCBO achieves excellent results on a variety of benchmarks. To this end, we propose two new control problems that we expect to be of independent value for the scientific community.

研究の動機と目的

• 高次元で制約付きのブラックボックス最適化において、従来の手法が次元の呪いと非凸な実行可能領域のため失敗するという限界を克服すること。
• 高価な関数評価を伴う現実世界の応用に不可欠な、大規模バッチ評価と非同期関数評価をサポートするスケーラブルなアルゴリズムの開発。
• 現実世界の複雑さを反映し、将来的な制約付きベイズ最適化分野の研究のベンチマークとして機能する、新しい高次元テスト問題の導入。
• 次元の呪いと目的関数・制約関数の非均一性が、標準的な補間ベース手法の性能を著しく低下させることへの対処。
• ロボット工学、航空宇宙、工学分野における実用的最適化の実現、ここでは安全性と性能制約が極めて重要である。

提案手法

• SCBOは、有望な点の周囲に局所的ガウス過程（GP）補間モデルを維持する信頼領域フレームワークを採用し、高次元空間におけるスケーラブルな最適化を実現する。
• 目的関数の改善と実行可能性確率の両方を組み込んだ修正された期待改善獲得関数を用い、実行可能領域の探索を保証する。
• 評価プロセスと獲得関数プロセスを分離することで、大規模バッチおよび非同期評価をネイティブにサポートし、並列環境下でのサンプル効率を向上させる。
• 進行が止まった際に失敗カウンタを用いて信頼領域を動的に再起動し、局所探索空間を再中心化する。
• スケーリングの悪い関数や非均一性の高い関数に対応するため、目的関数および制約関数に対して堅牢な変換を適用し、収束安定性を向上させる。
• グローバル補間モデルではなく局所モデルを活用することで、計算コストを低減し、高次元におけるモデル精度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 次元の呪いと非凸性のため従来手法が失敗する高次元問題において、ブラックボックス制約付きベイズ最適化を効果的にスケーリングできるか？
• RQ2 収束性や実行可能性を損なわず、バッチおよび非同期評価を制約付きベイズ最適化にネイティブに統合できるか？
• RQ3 信頼領域を用いた局所的補間モデルが、グローバルGPモデルと比較して高次元制約付き最適化における性能に与える影響は？
• RQ4 堅牢な関数変換と適応的信頼領域再起動が、スケーリングが悪いまたは非均一な目的関数・制約関数において収束性を著しく向上できるか？
• RQ5 現実的で高次元的な設定において、スケーラブルな制約付きベイズ最適化の性能を評価するための、新たな困難なベンチマークは何か？

主な発見

• SCBOは、124次元のMOPTA08問題（68個の制約を伴う）を含む、高次元制約付きベンチマークにおいて、すべての先行手法を上回る性能を発揮した。これは、従来のベイズ最適化では処理が不可能であった問題である。
• 30次元のKeaneベンチマークにおいても、関数の非定常性と複雑な構造にもかかわらず、既存手法と比較して優れた収束速度と最終的な解の品質を達成した。
• 60次元のローバー軌道計画問題において、他の手法が失敗するか収束が遅い中、SCBOは実行可能で高報酬の軌道を効果的に発見した。
• スケーリングが悪い制約を伴う5次元のローゼンブロック関数においても、適応的信頼領域と関数変換のおかげで、迅速な収束を達成した。
• 60次元のローバー問題において、SCBOの平均再起動頻度は2710イテレーションにのぼり、複雑で高次元な実行可能領域への適応性が顕著に示された。
• 12次元の月面着陸制御と124次元の車両設計という2つの新しい高次元テスト問題の導入により、将来のスケーラブルな制約付き最適化研究における貴重なベンチマークが提供された。