[論文レビュー] Fast Information-theoretic Bayesian Optimisation

Binxin Ru, Mark McLeod+2 more|arXiv (Cornell University)|Nov 2, 2017

Advanced Bandit Algorithms Research参考文献 17被引用数 11

ひとこと要約

本稿では、グローバル最小値のサンプリングにかかる高コストを、放物線的変換 f(x) = η + ½g(x)² を用いた単一のハイパーパrameter η の効率的サンプリングに置き換える、高速な情報理論的ベイズ最適化手法 FITBO を提案する。目的関数を最小値を明示的にハイパーパrameterとして持つ形に再定式化することで、計算オーバーヘッドを著しく削減し、カーネル選択の柔軟性を高め、PES や MES と同等の性能を達成するとともに、はるかに高速である。また、期待改善（Expected Improvement）を上回る速度性能を示す。

ABSTRACT

Information-theoretic Bayesian optimisation techniques have demonstrated state-of-the-art performance in tackling important global optimisation problems. However, current information-theoretic approaches require many approximations in implementation, introduce often-prohibitive computational overhead and limit the choice of kernels available to model the objective. We develop a fast information-theoretic Bayesian Optimisation method, FITBO, that avoids the need for sampling the global minimiser, thus significantly reducing computational overhead. Moreover, in comparison with existing approaches, our method faces fewer constraints on kernel choice and enjoys the merits of dealing with the output space. We demonstrate empirically that FITBO inherits the performance associated with information-theoretic Bayesian optimisation, while being even faster than simpler Bayesian optimisation approaches, such as Expected Improvement.

研究の動機と目的

• 既存の情報理論的ベイズ最適化手法における、特にグローバル最小値のサンプリングにかかる高コストを軽減すること。
• PES のような手法が導出およびスペクトル密度の要件によって課されるカーネル選択の制約を軽減すること。
• OPES や MES が行う出力空間における情報の注目により、高次元問題における効率を向上させること。
• 情報理論的アプローチの優れた性能を維持しつつ、期待改善のような単純な手法と同等の実行時間にすること。
• 最小限の近似オーバーヘッドで、合成的および実世界のタスクにおいても強固な性能を示す、高速でスケーラブルなベイズ最適化手法を開発すること。

提案手法

• FITBO は、放物線的変換 f(x) = η + ½g(x)² を用いて、グローバル最小値をハイパーパrameter η として明示的に表現する。
• この手法は、η をガウス過程事前分布における潜在変数として扱い、最小値のサンプリングを避けることで、η を含むハイパーパラメータの同時周辺化が可能になる。
• グローバル最小値のサンプリングを回避することで、PES や MES が二段階のサンプリングに依存する手法の計算ボトルネックを解消する。
• ベイズ統合技術を活用し、出力空間におけるモーメントマッチングを用いて、最小値分布のエントロピーを近似する。
• 出力空間で動作するため、PES のような入力空間手法と比較して、高次元問題においてより効率的である。
• FITBO-MM は、ガウス・ミックスチャネル・エントロピーの緩い上界を用いることで、わずかな性能損失で速度を向上させる。

実験結果

リサーチクエスチョン

• RQ1 情報理論的ベイズ最適化の計算コストを、性能を損なわずに低減できるか。
• RQ2 グローバル最小値のサンプリングをハイパーパラメータ η のサンプリングに置き換えることで、収束速度とスケーラビリティが向上するか。
• RQ3 FITBO は、PES のような手法が特定のカーネル特性を要する情報理論的手法と比較して、より広いカーネル関数の範囲をサポートできるか。
• RQ4 FITBO は、マルチモーダル関数やノイズの多い関数において、期待改善や他の最先端手法と比較して、性能と速度の両面で優れているか。
• RQ5 FITBO-MM のようなエントロピー計算の近似（例：緩い上界）に対して、FITBO の性能はロバストであるか。

主な発見

• FITBO は、Hartmann-6D を含む合成ベンチマーク関数において、PES や MES と同等またはそれ以上の性能を達成するとともに、はるかに高速である。
• Hartmann-6D 問題において、FITBO と FITBO-MM は、グローバル最小値と最小関数値の両方を、他のすべての手法よりも効果的に探索した。
• ボストンおよびがんデータセットにおけるニューラルネットワークのハイパーパラメータチューニングという実世界タスクでは、FITBO と FITBO-MM は、MES や EI よりも中間の検証損失が低くなるまでに早く収束した。
• MNIST-SVM タスクでは、FITBO と FITBO-MM は PES と同等の性能を示し、EI よりも優れていた。これは、多様な問題にわたる強力な一般化能力を示している。
• FITBO-MM は緩いエントロピー近似を用いているが、FITBO とほぼ同等の性能を示しており、近似誤差に対してロバストであることが確認された。
• FITBO は期待改善を上回る速度で実行され、PI や GP-UCB と同等の速度性能を示す一方で、情報理論的手法の優れた探索能力を維持している。