[論文レビュー] Bayesian Optimization with Exponential Convergence

Kenji Kawaguchi, Leslie Pack Kaelbling+1 more|arXiv (Cornell University)|Apr 5, 2016

Advanced Bandit Algorithms Research参考文献 23被引用数 80

ひとこと要約

本論文は、補助的なグローバル最適化や$δ$-カバー採掘を必要としない、ガウス過程に基づくベイズ最適化アルゴリズムを提案する。この手法は再帰的分割手順を導入し、リプシッツ的正則性仮定を活用することで、関数評価回数に応じてレジームが指数関数的に減少することを保証し、$\lambda < 1$のもとで$O(\lambda^{N+N_{gp}})$の収束を達成する。理論的保証が強く、実用的に計算可能である。

ABSTRACT

This paper presents a Bayesian optimization method with exponential convergence without the need of auxiliary optimization and without the delta-cover sampling. Most Bayesian optimization methods require auxiliary optimization: an additional non-convex global optimization problem, which can be time-consuming and hard to implement in practice. Also, the existing Bayesian optimization method with exponential convergence requires access to the delta-cover sampling, which was considered to be impractical. Our approach eliminates both requirements and achieves an exponential convergence rate.

研究の動機と目的

• 補助的グローバル最適化の計算負荷を回避する指数的収束を達成するベイズ最適化手法の開発。
• 既存の指数的収束手法で不実用的とされる$δ$-カバー採掘手順への依存を排除すること。
• 高次元ブラックボックス最適化における実装可能性を保ちながら、強い理論的レジームバウンドを維持すること。
• 最小限の仮定（$d=0$、既知のリプシッツ定数の必要なし）のもとで、$O(\lambda^{N+N_{gp}})$の収束速度を確立すること。

提案手法

• アルゴリズム1で提案される再帰的ハイパーレクトアングル分割手順により、関数値推定と不確実性に基づいて探索空間を分割する。
• 上位信頼区間（UCB）に基づく修正版の獲得関数を用い、信頼幅を$\varsigma\sigma(x|\mathcal{D}_N)$でスケーリングするが、再帰的分割に適応させたものである。
• 各レベル$h$における各ハイパーレクトアングル内での関数値差の最大値を制限する列$\delta(h)$を定義し、局所的正則性を保証する。
• $\ell$-ボールを用いた体積基準により、$\delta(h)$-最適集合に収まる互いに交差しない領域の数を制御し、不確実性の増大を制御する。
• 関数の正則性に応じたサンプル点の有効密度$\bar{\rho}_t$を捉える再帰的不等式を用いて、レジームバウンドを導出する。
• シュール補行列とガウス過程事後分布更新を適用し、予測平均$\mu(x|\mathcal{D}_N)$と分散$\sigma^2(x|\mathcal{D}_N)$を閉形式で計算する。

実験結果

リサーチクエスチョン

• RQ1 補助的グローバル最適化や$δ$-カバー採掘を必要とせずに、ベイズ最適化で指数的収束を達成できるか。
• RQ2 $d=0$や既知のリプシッツ定数がなくても、より弱い仮定のもとで強い理論的レジームバウンドを維持できるか。
• RQ3 再帰的空間分割をどのように活用すれば、計算コストの高い採掘手順を回避しつつ高速収束を実現できるか。
• RQ4 関数の正則性とアルゴリズムの採掘戦略にどのような条件が、指数的レジーム減少をもたらすか。

主な発見

• 提案手法は、補助的最適化や$δ$-カバー採掘を必要とせず、$\lambda < 1$のもとで$O(\lambda^{N+N_{gp}})$の指数的レジーム減少を達成する。
• レジームバウンドは、仮定1および2のみを仮定して導出されており、仮定3～5を必要とせず、$d>0$の仮定も不要である。
• 関数の正則性を保証するため、$\delta(h) = L3^{\alpha}D^{\alpha/p}3^{-h\alpha/D}\beta^{\alpha}$とすることで$d=0$を満たす$\delta(h)$を構築し、指数的収束のすべての条件を満たす。
• $\delta(h)$-最適集合に収まる半径$\nu\delta(h)$の互いに交差しない$\ell$-ボールの数は、$\lceil(\theta\nu)^{-D}\rceil$で抑えられ、$\delta(h)$に依存しない。これは$d=0$を示している。
• 最終的なレジームバウンドは$r_N \leq L(3\beta D^{1/p})^{\alpha}\exp\left(-\alpha\left[\frac{N+N_{gp}}{2C\bar{\rho}_tD}-\Xi_n-2\right]\ln 3\right)$であり、指数的減少を確認する。