[論文レビュー] Adaptive and Safe Bayesian Optimization in High Dimensions via One-Dimensional Subspaces

Johannes Kirschner, Mojmír Mutný+3 more|arXiv (Cornell University)|Feb 8, 2019

Advanced Bandit Algorithms Research参考文献 40被引用数 46

ひとこと要約

LineBO は、グローバル GP モデルとランダム（またはヒューリスティック）方向を用いて、一連の一次元サブ問題を解くことで高次元にスケールするベイズ最適化を実現する。SafeOpt と組み合わせると、安全な高次元 BO を理論的保証付きで提供し、SwissFEL で最大40個のパラメータで実証済み。

ABSTRACT

Bayesian optimization is known to be difficult to scale to high dimensions, because the acquisition step requires solving a non-convex optimization problem in the same search space. In order to scale the method and keep its benefits, we propose an algorithm (LineBO) that restricts the problem to a sequence of iteratively chosen one-dimensional sub-problems that can be solved efficiently. We show that our algorithm converges globally and obtains a fast local rate when the function is strongly convex. Further, if the objective has an invariant subspace, our method automatically adapts to the effective dimension without changing the algorithm. When combined with the SafeOpt algorithm to solve the sub-problems, we obtain the first safe Bayesian optimization algorithm with theoretical guarantees applicable in high-dimensional settings. We evaluate our method on multiple synthetic benchmarks, where we obtain competitive performance. Further, we deploy our algorithm to optimize the beam intensity of the Swiss Free Electron Laser with up to 40 parameters while satisfying safe operation constraints.

研究の動機と目的

• 隠れた制約を伴う高次元でノイズのある目的関数に対して、スケーラブルなベイズ最適化を動機付ける。
• 高次元問題を効率的に解ける1Dサブ問題に分解する手法を開発する。
• 収束保証と関数の実効次元への適応性を提供する。
• 安全性制約を組み込み、高次元で原理に基づく安全な最適化を実現する。
• 合成ベンチマークと実世界アプリケーション（SwissFEL）で実用的な性能を示す。

提案手法

• LineBO を導入する：現在の最良点を含む一連の1次元アフィン部分空間サブ問題を反復的に解く。
• 方向オラクル Pi を用いてサブ空間の方向を選択し、しばしばランダムにして L_i = L(x_i, l_i) を得る。
• 各1Dサブ問題を直線上でベイズ最適化により解くとともに、グローバルGPモデルを介して情報を共有する。
• 任意でサブソルバーを SafeOpt に置換して SafeLineBO を得ることができ、隠れた制約下で安全性保証を可能にする。
• 理論解析を提供する： (i) 実効次元 d_e に関連する速度でのグローバル収束；(ii) 強凸性下の局所線形収束；(iii) 1Dサブ空間での最大情報利得 gamma_T による情報理論的境界。
• 実用的な選択肢について議論する：降下方向のヒューリスティクス、座標整列方向、局所対 global 探索のトレードオフを含む；全高次元 BO に比べた1回の反復の計算効率を強調。

実験結果

リサーチクエスチョン

• RQ1 ベイズ最適化を高次元領域へスケールさせつつ、グローバル最適化の利点を保持するにはどうすればよいか。
• RQ2 高次元BO は不変サブ空間に適応し、実効次元の事前知識なしに能動的次元性を効果的に低減できるか。
• RQ3 安全性制約を高次元BOに理論的保証とともに組み込めるか。
• RQ4 標準ベンチマークや実世界の高次元アプリケーション（例：SwissFEL）におけるLineBO の性能は、既存手法と比較してどうか。

主な発見

• LineBO はランダム方向でグローバル収束を達成し、関数が強凸のとき局所収束が速いことを示す。
• アルゴリズムは関数の実効次元に自動適応的にスケールし、d_e に依存するリプシッツ風のグローバルレートを生み出す。
• SafeLineBO は SafeOpt サブソルバーを用いて LineBO を拡張し、高次元で原理的な安全最適化を提供する。
• 合成ベンチマークでの経験的結果は、フルスケールBOおよび REMBO 系と比較して競争力のある性能と速度改善を示す。
• 40パラメータまでの SwissFEL ビームライン調整へ適用し、LineBO（安全性あり）は Nelder-Mead を上回り、約15分以内により高いパルスエネルギーを達成した。
• このアプローチは、モデル適合と進捗の監視に役立つ使いやすいスライスプロットなどの実用的な利点を提供する。