[論文レビュー] Batch Bayesian Optimization via Local Penalization

Javier González, Zhenwen Dai+2 more|arXiv (Cornell University)|May 29, 2015

Gaussian Processes and Bayesian Inference被引用数 218

ひとこと要約

本稿では、局所的ペナルティを用いたバッチベイズ最適化（BBP-LP）を提案する。この手法は、目的関数の推定リプシッツ定数を用いて、バッチ内点同士の局所的反発を強制することで、バッチ内相互作用の高価な共同モデリングを回避する計算効率の良いヒューリスティックである。本手法は、最小限のオーバーヘッドで、複雑なバッチBO手法と同等の性能を達成しており、ベンチマーク関数および実世界の実験において、収束速度とウォールクロック時間の点で、逐次的および他のバッチ手法を顕著に上回っている。

ABSTRACT

The popularity of Bayesian optimization methods for efficient exploration of parameter spaces has lead to a series of papers applying Gaussian processes as surrogates in the optimization of functions. However, most proposed approaches only allow the exploration of the parameter space to occur sequentially. Often, it is desirable to simultaneously propose batches of parameter values to explore. This is particularly the case when large parallel processing facilities are available. These facilities could be computational or physical facets of the process being optimized. E.g. in biological experiments many experimental set ups allow several samples to be simultaneously processed. Batch methods, however, require modeling of the interaction between the evaluations in the batch, which can be expensive in complex scenarios. We investigate a simple heuristic based on an estimate of the Lipschitz constant that captures the most important aspect of this interaction (i.e. local repulsion) at negligible computational overhead. The resulting algorithm compares well, in running time, with much more elaborate alternatives. The approach assumes that the function of interest, $f$, is a Lipschitz continuous function. A wrap-loop around the acquisition function is used to collect batches of points of certain size minimizing the non-parallelizable computational effort. The speed-up of our method with respect to previous approaches is significant in a set of computationally expensive experiments.

研究の動機と目的

• バッチベイズ最適化における計算ボトル neck を解消すること、特にバッチ点間の相互作用をモデリングするコストが高いため。
• 高価なブラックボックス関数の並列評価を効率的に行うために、重複または凝集した評価を避けるバッチの設計を可能にすること。
• 最小限の計算コストで、局所的反発という重要な相互作用効果を捉えるヒューリスティックを開発すること。
• 従来のバッチおよび逐次的ベイズ最適化手法と比較して、収束速度とウォールクロック時間の両面で効率を向上させること。
• 高価な関数評価を伴う実世界の問題に適用可能なスケーラブルで、獲得関数に依存しない手法を提供すること。

提案手法

• 本手法は、目的関数の推定リプシッツ定数を用いて、バッチ点間の局所的反発を組み込んだペナルティ付き獲得関数を導入する。
• バッチ点間の相互作用を完全な共同GP推論によってモデリングするのではなく、入力空間で近すぎる点の出現を抑制するヒューリスティックなペナルティによってモデル化する。
• ペナルティは関数のL-リプシッツ連続性に基づいて導出され、バッチ内の近接する点が類似した関数値を出力しないように保証する。
• 各点が追加された後でGP事後分布を再計算するのを避けるため、完全なバッチ最適化に比べて計算コストを低減する。
• 任意の獲得関数（例：期待改善、上部信頼境界）と互換性があるため、広範な適用が可能である。
• 初期段階でデータが存在しない場合、自然にラテンハイパーボリューム設計を初期バッチ選択に提案する。

実験結果

リサーチクエスチョン

• RQ1 リプシッツ連続性に基づく単純なヒューリスティックが、完全な共同モデリングを伴わずに、ベイズ最適化におけるバッチ相互作用を効果的にモデル化できるか？
• RQ2 提案された局所的ペナルティ手法は、より複雑なバッチベイズ最適化手法と比較して、性能と効率でどのように差をつけるか？
• RQ3 並列評価制約下で、逐次的ベイズ最適化と比較して、本手法は収束速度と最終的な解の品質を維持または向上させるか？
• RQ4 本手法は、合成関数および実世界の機械学習・実験（湿潤実験）を含む多様な問題タイプに効率的に適用可能か？
• RQ5 本手法は、バッチ選択の品質を保持しつつ、計算コストの増加をどれほど低減できるか？

主な発見

• コサイン関数において、BBP-LP（LP-EIおよびLP-UCB）は、10バッチ後における収束速度とウォールクロック時間の点で、他のバッチおよび逐次的手法を顕著に上回った。
• 関数評価がより高価な実験（湿潤実験）では、LP-UCBが最良のパフォーマンスを達成し、高コスト評価下での優れた効率性を示した。
• SVRハイパーパramータチューニングタスクでは、すべてのバッチ手法が逐次的ポリシーを上回ったが、BBP-LPは最小限のオーバーヘッドで強力なパフォーマンスを維持した。
• 本手法は、複雑なバッチ手法と同等またはそれ以上の結果を達成しながら、無視できる計算コストで実現されており、大規模または高コスト問題に対して極めて効率的である。
• リプシッツに基づくペナルティの使用は、局所的反発を効果的に捉えており、ランダムまたはペナルティなしのバッチ戦略よりも優れた探索を可能にした。
• 本手法のパフォーマンスは、異なる獲得関数（EIおよびUCB）に対して安定しており、一般性とスケーラビリティを確認した。