[論文レビュー] Constrained Efficient Global Optimization of Expensive Black-box Functions

Wenjie Xu, Yuning Jiang+2 more|arXiv (Cornell University)|Oct 31, 2022

Advanced Bandit Algorithms Research被引用数 11

ひとこと要約

この論文は、ガウス過程を用いた、高価なブラックボックス関数の制約付き効率的グローバル最適化のための新しいアルゴリズムであるCONFIGを提案する。下位信頼区間（LCB）の代替問題を解くことで、Matérnおよび二乗指数型カーネルに対して、累積レジーットと制約違反の非線形境界を達成し、最適解への収束を保証するとともに、不実行性を自然に検出する。

ABSTRACT

We study the problem of constrained efficient global optimization, where both the objective and constraints are expensive black-box functions that can be learned with Gaussian processes. We propose CONFIG (CONstrained efFIcient Global Optimization), a simple and effective algorithm to solve it. Under certain regularity assumptions, we show that our algorithm enjoys the same cumulative regret bound as that in the unconstrained case and similar cumulative constraint violation upper bounds. For commonly used Matern and Squared Exponential kernels, our bounds are sublinear and allow us to derive a convergence rate to the optimal solution of the original constrained problem. In addition, our method naturally provides a scheme to declare infeasibility when the original black-box optimization problem is infeasible. Numerical experiments on sampled instances from the Gaussian process, artificial numerical problems, and a black-box building controller tuning problem all demonstrate the competitive performance of our algorithm. Compared to the other state-of-the-art methods, our algorithm significantly improves the theoretical guarantees, while achieving competitive empirical performance.

研究の動機と目的

• 各関数評価が高価で勾配情報が得られない、未知の制約を伴う高価なブラックボックス関数の最適化という課題に対処すること。
• 累積レジーットや制約違反に関する理論的保証が欠如している、または広範なパrameterチューニングを要する既存手法の限界を克服すること。
• 最適解への収束を保証するとともに、不実行問題を自然に検出できるメカニズムを提供する手法を開発すること。
• 特に累積レジーットと制約違反境界の観点から、最先端の制約付きベイズ最適化手法に比べて理論的保証を向上させること。
• 合成問題および建物コントローラーのチューニングなど、実世界の応用において、競争力のある実験的性能を達成すること。

提案手法

• 目的関数および制約関数の両方に対してガウス過程のスラッグを用いて制約付き最適化問題を定式化する。
• 探索と制約満たしのバランスを図るために、目的関数および制約の下位信頼区間（LCB）スラッグを構築する。
• 各イテレーションで、LCBに基づく制約の妥当性を満たす条件下で、目的関数のLCBを最大化する補助最適化問題を解く。
• この補助問題の解を次のクエリポイントとして用い、累積レジーットと制約違反を最小化する。
• 情報利得およびカーネル固有の性質（例：Matérnおよび二乗指数型）を活用し、レジーットと制約違反の理論的境界を導出する。
• 補助問題の反復にわたる妥当性をモニタリングすることで、不実行性を自然に検出するメカニズムを統合する。

実験結果

リサーチクエスチョン

• RQ1 制約付き効率的グローバル最適化アルゴリズムを設計でき、非制約ケースと同等の理論的収束保証を得られるか？
• RQ2 Matérnおよび二乗指数型カーネルを用いた高価なブラックボックス関数に対して、累積レジーットおよび累積制約違反のサブラインハーブを導出できるか？
• RQ3 事前に実行可能な点の知識がなくても、元の問題における不実行性をアルゴリズムが検出できるか？
• RQ4 提案手法は、理論的保証および実験的性能の両面で、既存の最先端手法を上回ることができるか？
• RQ5 制約が重要で評価が高価な実用的応用、例えば建物コントローラーのチューニングにおいて、強い性能を維持できるか？

主な発見

• 標準的な正則性仮定の下で、CONFIGは非制約ケースと同等のサブラインハーブを累積レジーットに達成し、最適解への収束を保証する。
• 累積制約違反は最大情報ゲインの観点から境界化されており、レジーット境界と同様のスケーリングを示し、一般的に用いられるMatérnおよび二乗指数型カーネルではサブラインハーブとなる。
• 平滑性パrameter ν が ν > d/2 を満たすMatérnおよび二乗指数型カーネルに対して、境界はサブラインハーブとなり、最適解への収束速度が明確に定義される。
• 補助問題が不実行になると、CONFIGは不実行性を自然に検出し、実行可能な解が存在しないことを原理的かつ明確に宣言できる。
• 数値実験では、合成問題および実世界の建物コントローラーのチューニングタスクにおいて、CEI や SafeOPT といった最先端手法と同等またはそれ以上の性能を示した。
• 建物コントローラーのチューニング問題では、CONFIGは15回の関数評価で最適解を特定し、慎重なSafeOPT手法よりも目的関数の品質で優れた性能を発揮した。