[論文レビュー] Advancing Bayesian Optimization: The Mixed-Global-Local (MGL) Kernel and Length-Scale Cool Down

Kim P. Wabersich, Marc Toussaint|arXiv (Cornell University)|Dec 9, 2016

Advanced Multi-Objective Optimization Algorithms参考文献 12被引用数 6

ひとこと要約

本稿では、獲得関数駆動の長さスケール冷却（alpha比冷却）と、局所的な凸多項式領域をモデル化する混合グローバルローカル（MGL）カーネルを組み合わせた、新たなベイズ最適化フレームワークを提案する。本手法は、将来の獲得関数の潜在的改善に基づいてハイパーパrameterを適応的に精錬することで最適化効率を向上させ、局所的な最適化効率を明示的に組み込むことで、Rosenbrock、Hartmann、指数的関数を含むベンチマーク関数において、最先端手法を上回る性能を発揮する。

ABSTRACT

Bayesian Optimization (BO) has become a core method for solving expensive black-box optimization problems. While much research focussed on the choice of the acquisition function, we focus on online length-scale adaption and the choice of kernel function. Instead of choosing hyperparameters in view of maximum likelihood on past data, we propose to use the acquisition function to decide on hyperparameter adaptation more robustly and in view of the future optimization progress. Further, we propose a particular kernel function that includes non-stationarity and local anisotropy and thereby implicitly integrates the efficiency of local convex optimization with global Bayesian optimization. Comparisons to state-of-the art BO methods underline the efficiency of these mechanisms on global optimization benchmarks.

研究の動機と目的

• 標準的なハイパーパrameter選択の限界、特に過去のデータに対する最尤推定に依存することによる、局所最適解や非ステーションナリィ関数の影響による性能劣化を是正すること。
• ハイパーパrameter適応を過去のデータフィットではなく、将来の最適化進捗と一致させることで、ベイズ最適化におけるモデル選択を改善すること。
• 局所的凸で非等方的領域を暗黙的にモデル化するカーネル関数を開発し、グローバルなベイズフレームワーク内にローカルモデルベース最適化の効率性を統合すること。
• オンラインでのハイパーパrameter適応を獲得関数の有効性に基づいて行うことで、最先端手法に比べて優れた最適化性能を達成できることを実証すること。

提案手法

• 過去のデータに対する最尤推定ではなく、次のクエリポイントからの期待される獲得関数改善に基づいて長さスケールハイパーパrameterを選択する、alpha比冷却メカニズムを提案する。
• 初期最適化段階における過学習に対するロバスト性を確保するため、長さスケール値の下限ヒューリスティックを導入する。
• グローバルおよびローカルの共分散構造を組み合わせた混合グローバルローカル（MGL）カーネルを開発し、目的関数が局所的に凸であり、非等方的二次形式でよく近似可能な領域をモデル化する。
• MGLカーネルを用いて、準ニュートン法に類似した局所的二次補間および最適化ステップを暗黙的に可能にし、局所収束速度を向上させる。
• 探索空間内の局所的凸多項式領域を検出するアルゴリズムを採用し、グローバルなベイズフレームワーク内でのローカル最適化戦略の適応的利用を可能にする。
• alpha比冷却とMGLカーネルを、ハイパーパラメータに関する事前仮定を必要としない期待改善（EI）獲得関数設定で統合する。

実験結果

リサーチクエスチョン

• RQ1 獲得関数の将来の潜在的改善に基づいてハイパーパラメータ適応を設計することで、過去のデータ尤度に依存する手法に比べて、ベイズ最適化におけるハイパーパラメータ適応が改善可能か？
• RQ2 局所的凸多項式領域をモデル化するカーネル関数は、非定常的・異分散的・マルチモーダル関数において最適化性能を向上させるか？
• RQ3 獲得関数の有効性に基づくオンライン長さスケール適応は、実際の応用において最尤推定やleave-one-out交差検証を上回る性能を発揮できるか？
• RQ4 獲得関数駆動のハイパーパラメータ適応と特化したMGLカーネルの組み合わせは、多様なベンチマーク関数において最先端のベイズ最適化手法と比較して優れた性能を示すか？

主な発見

• alpha比冷却法は、非定常的かつ異分散的な目的関数において、leave-one-out交差検証および事後最適ハイパーパラメータに比べ、特にロバスト性と収束速度の面で顕著に優れた性能を発揮する。
• Rosenbrock関数および指数的関数において、MGLカーネルとalpha比冷却を組み合わせた本手法は、最適ハイパーパラメータを用いた古典的期待改善法よりも顕著に低いレジリエント（regret）を達成する。
• Branin-Hoo関数およびHartmann 6D関数において、本手法はPESやIMGPOを含む最先端手法を上回り、優れたグローバルサーチ効率を示す。
• MGLカーネルは、非等方的曲率を示す領域における効果的な局所最適化を可能にし、二次関数に類似した関数や多次元関数において性能向上が裏付けられている。
• alpha比冷却とMGLカーネルの組み合わせは、テストされたすべてのベンチマーク関数で一貫した性能向上をもたらすが、Hartmann 3Dを除き、PESがわずかに優れている。
• ノイズや非定常的関数を伴う現実的でロバストな状況では、最適ハイパーパラメータと同等の性能を達成するが、より優れた性能を発揮する。