[論文レビュー] Theoretical Analysis of Bayesian Optimisation with Unknown Gaussian Process Hyper-Parameters

Ziyu Wang, Nando de Freitas|arXiv (Cornell University)|Jun 30, 2014

Advanced Bandit Algorithms Research参考文献 22被引用数 38

ひとこと要約

本稿は、カーネルハイパーパramータが未知で、観測ノイズが確率的である状況下におけるガウス過程を用いたベイズ最適化の、初めての理論的累積リグレットバウンドを提供する。期待改善（expected improvement）を用い、ハイパーパramータを適応的に推定することで、サブガウスノイズ下でサブリニアリグレットを達成できることを確立し、実践的なハイパーパramータ学習のための理論的指針を提示する。

ABSTRACT

Bayesian optimisation has gained great popularity as a tool for optimising the parameters of machine learning algorithms and models. Somewhat ironically, setting up the hyper-parameters of Bayesian optimisation methods is notoriously hard. While reasonable practical solutions have been advanced, they can often fail to find the best optima. Surprisingly, there is little theoretical analysis of this crucial problem in the literature. To address this, we derive a cumulative regret bound for Bayesian optimisation with Gaussian processes and unknown kernel hyper-parameters in the stochastic setting. The bound, which applies to the expected improvement acquisition function and sub-Gaussian observation noise, provides us with guidelines on how to design hyper-parameter estimation methods. A simple simulation demonstrates the importance of following these guidelines.

研究の動機と目的

• GPハイパーパramータが未知であり、限られたデータから推定されなければならない状況における、ベイズ最適化の理論的分析の不足に取り組むこと。
• 従来の決定的リグレットバウンドを、サブガウスノイズを伴う確率的設定に拡張すること。
• 特に、関数評価がノイズを含む状況において、ハイパーパramータ推定手法に理論的根拠を与えること。
• 形式的なリグレット解析を通じて、ロバストなハイパーパramータ推定戦略の設計を導くこと。

提案手法

• 未知のGPハイパーパramータを想定したベイズ最適化に対して、期待改善の獲得関数を用いた累積リグレットバウンドを導出する。
• サブガウスノイズを伴う確率的設定を分析し、対称的ガウス分布、ベルヌーイ分布、一様分布を含むノイズを扱う。
• GP事前分布を用いたベイジアンフレームワークを採用し、最適な報酬と観測された報酬の差の上限を導出する。
• 集中不等式およびガウス過程事後分散の性質を用いて、推定誤差を制御する。
• カーネル長スケールの下限と上限を用いて、ハイパーパramータ不確実性に関する補助的バウンドを導入する。
• コーシー・シュワルツと対数和不等式を用いて、T反復にわたる累積リグレットをバウンドする。

実験結果

リサーチクエスチョン

• RQ1 未知のGPハイパーパramータと確率的観測を持つベイズ最適化の理論的性能保証（リグレットの観点から）は何か？
• RQ2 ハイパーパramータが事前に分かっていない場合、サブガウスノイズはベイズ最適化の収束速度にどのように影響するか？
• RQ3 ハイパーパramータ不確実性下で、期待改善獲得関数に対して理論的リグレットバウンドを確立できるか？
• RQ4 確率的設定においてサブリニアリグレットを保証するために、ハイパーパramータ推定に必要な条件は何か？

主な発見

• 本稿は、未知のGPハイパーパramータとサブガウスノイズを伴うベイズ最適化に対して、O(√T log T)の形の累積リグレットバウンドを確立した。
• リグレットバウンドはハイパーパramータ推定誤差と事後分散に依存し、明示的にlog((t+σ²)/σ²)の対数項に依存する。
• 分析により、ハイパーパramータ推定手法の選択がリグレットに顕著に影響することが示され、不適切な推定は収束性の悪化を引き起こす可能性がある。
• ハイパーパramータが既知の区間内に有界であるという仮定の下でバウンドが導出されており、従来の決定的関数への研究を確率的状況に拡張している。
• シミュレーションにより、理論的指針に従うことで、ナーブなハイパーパramータ推定よりも優れた性能が得られることを示している。