[論文レビュー] Sampling Acquisition Functions for Batch Bayesian Optimization

Alessandro De Palma, Celestine Mendler-Dünner+3 more|arXiv (Cornell University)|Mar 22, 2019

Advanced Bandit Algorithms Research参考文献 32被引用数 7

ひとこと要約

本稿では、モデルのハイパーパrameterに依存する確率過程によって定義される獲得関数をサンプリングする、新しいバッチベイズ最適化手法であるAcquisition Thompson Sampling (ATS) を提案する。ハイパーパrameterのサンプリングにより多様な獲得関数を生成することで、任意の逐次的獲得関数を効率的に並列化可能であり、ベンチマーク関数およびXGBoostのハイパーパrameterチューニングにおいて、P-TS、B-LCB、LPといった最先端手法を上回る収束性とバッチ内多様性を実現する。

ABSTRACT

We present Acquisition Thompson Sampling (ATS), a novel technique for batch Bayesian Optimization (BO) based on the idea of sampling multiple acquisition functions from a stochastic process. We define this process through the dependency of the acquisition functions on a set of model hyper-parameters. ATS is conceptually simple, straightforward to implement and, unlike other batch BO methods, it can be employed to parallelize any sequential acquisition function or to make existing parallel methods scale further. We present experiments on a variety of benchmark functions and on the hyper-parameter optimization of a popular gradient boosting tree algorithm. These demonstrate the advantages of ATS with respect to classical parallel Thompson Sampling for BO, its competitiveness with two state-of-the-art batch BO methods, and its effectiveness if applied to existing parallel BO algorithms.

研究の動機と目的

• ベイズ最適化における任意の逐次的獲得関数を並列化する汎用的手法の開発。
• 固定されたランドスケープ変更に依存せずに、バッチベイズ最適化におけるバッチ多様性と収束性の向上。
• 既存の並列BO手法がフレームワークにハイパーパラメータのサンプリングを統合することで、さらなる拡張性を実現。
• モデルのハイパーパラメータを用いた獲得関数のサンプリングが、効果的な並列最適化に十分な多様性を提供することの実証。

提案手法

• ATSは、事前分布から異なるハイパーパラメータ設定θをサンプリングし、それぞれを確率過程からの独立なサンプルとして扱うことで、獲得関数をサンプリングする。
• 各バッチ点は、ハイパーパラメータの事後分布からサンプリングされたθ_iに対応する別個の獲得関数a(x, θ_i)を最大化することで選択される。
• ジャイタ（j-ATS）は、獲得関数パラメータの事前分布からのサンプリングにより、探索と活用のトレードオフをさらに多様化する。
• また、h-ATSは、代理モデルを直接変更するのではなく、データの事後分布を変更することで、保留中の評価を模擬し、多様性を向上させる。
• この手法は、既存のバッチBO手法と直交しており、EI、LCB、その他の逐次的獲得関数に適用可能である。
• フレームワークは、独立したバッチ選択と、P-TS や B-LCB といった既存の並列アルゴリズムの強化の両方をサポートする。

実験結果

リサーチクエスチョン

• RQ1 ハイパーパラメータに依存する確率過程から獲得関数をサンプリングすることで、ベイズ最適化における任意の逐次的獲得関数の並列化を効果的に可能にするか？
• RQ2 ハイパーパラメータのサンプリングによって誘発される多様性は、局所的ペナルティやハリュシネーションといった従来の多様性メカニズムと比べてどのように評価できるか？
• RQ3 ATSは、合成関数および実世界の最適化問題において、B-LCB、LP、P-TSといった最先端のバッチBO手法を上回るか、同等の性能を発揮するか？
• RQ4 ジャイタとハリュシネーションをサンプリングフレームワークに統合することで、多峰性や複雑な目的関数において性能がさらに向上するか？
• RQ5 P-TS や B-LCB といった既存の並列BOアルゴリズムの効率性は、ATSによってどの程度向上するか？

主な発見

• 5つのベンチマーク関数において、ATSはP-TSよりも優れた最小値を一貫して発見し、収束性能の優位性を示した。
• ジャイタを追加したj-ATSは、バッチ内多様性を顕著に向上させ、点のクラスタリングを軽減し、バッチ内の低距離外れ値を排除した。
• Higgsデータセットにおいて、j-ATSはバッチサイズ20でXGBoostのハイパーパラメータチューニングにおいてほぼ理想のスケーリング性能を達成し、B-LCB や LP を上回った。
• j-ATS や h-ATS といった強化手法は、深い谷を持つ関数において、P-TS や B-LCB といった既存の並列手法の性能を向上させた。
• バイオリンプロットでは、j-ATSがバッチ点間の平均距離を増加させ、距離分布の下位尾を除去していることが確認され、多様性の向上が裏付けられた。
• ATSは、獲得関数のランドスケープや代理モデルの変更を一切必要とせず、最先端手法と同等またはそれ以上の性能を達成した。