[論文レビュー] Multi-fidelity Bayesian Optimisation with Continuous Approximations

Kirthevasan Kandasamy, Gautam Dasarathy+2 more|arXiv (Cornell University)|Mar 18, 2017

Machine Learning and Data Classification参考文献 29被引用数 95

ひとこと要約

本論文は連続的な忠実度空間のためのベイズ最適化法 BOCA を紹介し、連続的な低忠実度情報を活用して高忠実度での最適解の発見を加速することを示す理論的な後悔保証を提示する。

ABSTRACT

Bandit methods for black-box optimisation, such as Bayesian optimisation, are used in a variety of applications including hyper-parameter tuning and experiment design. Recently, \emph{multi-fidelity} methods have garnered considerable attention since function evaluations have become increasingly expensive in such applications. Multi-fidelity methods use cheap approximations to the function of interest to speed up the overall optimisation process. However, most multi-fidelity methods assume only a finite number of approximations. In many practical applications however, a continuous spectrum of approximations might be available. For instance, when tuning an expensive neural network, one might choose to approximate the cross validation performance using less data $N$ and/or few training iterations $T$. Here, the approximations are best viewed as arising out of a continuous two dimensional space $(N,T)$. In this work, we develop a Bayesian optimisation method, BOCA, for this setting. We characterise its theoretical properties and show that it achieves better regret than than strategies which ignore the approximations. BOCA outperforms several other baselines in synthetic and real experiments.

研究の動機と目的

• 高価な目的関数に対して連続的な安価な近似のスペクトルが利用可能な場合の最適化を動機づけ、形式化する。
• 連続的な忠実度を活用してサンプル効率を向上させる、GPベースのベイズ最適化アルゴリズムを開発する。
• 忠実度写像が滑らかな場合に、単一忠実度GP-UCBより利得を示す理論的後悔界を提供する。
• BOCAを合成および実世界の問題でベースラインと実証的に比較し、有効性を検証する。

提案手法

• 目的関数を g(z, x) としてモデル化し、f(x)=g(z bullet, x) とすると z は連続的な忠実度空間 Z にある。
• ガウス過程事前分布を g に対して用い、積カーネル k([z,x],[z',x'])=k0 * phi_Z(||z-z'||) * phi_X(||x-x'||) を用いる。
• x_t を選択するために GP-UCB 手法風の上限信頼帯 varphi_t(x)=mu_{t-1}(x)+sqrt(beta_t)*sigma_{t-1}(x) を構築する。
• コスト、情報ギャップ xi(z)、後方の不確実性のバランスを取る3条件で fidelity 部分集合 Z_t(x_t) を定義し、最も安価な適格な z_t を選択する（該当なしなら z_bullet）。
• G が Z 全体で滑らかな場合に BOCA が GP-UCB よりも簡易後悔界を改善することを示す非公式の理論結果を提供し、滑らかさが低い場合には滑らかさが低下しても穏やかに劣化する。

実験結果

リサーチクエスチョン

• RQ1 連続忠実度空間をベイズ最適化で効果的に活用して高忠実度の最適解を加速できるか？
• RQ2 情報利得とコストのバランスを取るために、決定変数 x と忠実度 z の選択を連続的な忠実度の中でどう行うべきか？
• RQ3 BOCA の後悔保証は何か、忠実度空間の滑らかさが異なる場合に単一忠実度 GP-UCB とどう比較されるか？
• RQ4 合成および実世界タスクでの実証結果は、有限忠実度および非多忠実度のベースラインに対する BOCA の理論的利点を支持するか？

主な発見

• BOCA は合成実験で GP-UCB, EI, MF-GP-UCB, MF-SKO を含むベースラインを上回る。
• 本手法は忠実度空間における g の滑らかさに適応し、忠実度が高忠実度目的に対して非常に情報量が多い場合に性能が良い。
• xi が小さい（Z のカーネル帯域幅が大きい）ときに改善された性能を示す理論的後悔界を BOCA が提供する。
• 分析は高忠実度のクエリのほとんどが最適解の周囲の小さな領域に集中し、忠実度間で共有される情報によって助けられていることを示す。
• BOCA は離散忠実度集合や他のカーネルにも拡張可能であり、高次元設定におけるスケーラビリティの制約を認識している。