[論文レビュー] Practical Batch Bayesian Optimization for Less Expensive Functions

Loc Nguyen, Sunil Gupta+3 more|arXiv (Cornell University)|Nov 5, 2018

Advanced Bandit Algorithms Research参考文献 22被引用数 3

ひとこと要約

本稿では、評価コストが高くないブラックボックス関数向けに実用的なバッチベイズ最適化手法UCB-DEを提案する。Sobol系列を用いた距離に基づく探索戦略により、各バッチ点の高価なグローバル最適化を回避する。計算時間の大幅な削減（BUCB比で最大6倍速）を達成しながら、特に低～中程度の評価コスト設定において競争力のある収束性能を維持する。

ABSTRACT

Bayesian optimization (BO) and its batch extensions are successful for optimizing expensive black-box functions. However, these traditional BO approaches are not yet ideal for optimizing less expensive functions when the computational cost of BO can dominate the cost of evaluating the blackbox function. Examples of these less expensive functions are cheap machine learning models, inexpensive physical experiment through simulators, and acquisition function optimization in Bayesian optimization. In this paper, we consider a batch BO setting for situations where function evaluations are less expensive. Our model is based on a new exploration strategy using geometric distance that provides an alternative way for exploration, selecting a point far from the observed locations. Using that intuition, we propose to use Sobol sequence to guide exploration that will get rid of running multiple global optimization steps as used in previous works. Based on the proposed distance exploration, we present an efficient batch BO approach. We demonstrate that our approach outperforms other baselines and global optimization methods when the function evaluations are less expensive.

研究の動機と目的

• 関数評価コストが極めて高くない場合のバッチベイズ最適化におけるギャップを埋める。
• 計算コストのオーバーヘッドを最小限に抑えつつ、効果的な探索と活用を維持するスケーラブルなバッチBOアルゴリズムを設計する。
• 繰り返しグローバル最適化を実行するバッチ選択を、1回のグローバル最適化ステップに加え、Sobol系列による空間充填に置き換える。
• シミュレータベースの実験や獲得関数最適化など、中程度の評価コストを伴う実世界の応用において、手法を検証する。
• 評価コストが低い設定において、最適化性能を損なわずに計算効率を著しく向上させられることを示す。

提案手法

• 既存の観測点からの幾何的距離に基づいてバッチ点を選択することで、探索を促進する新しい距離探索（DE）戦略を提案する。
• Sobol系列を用いて、観測済み位置から遠く離れた空間充填点を効率的に生成し、複数回のグローバル最適化ステップを置き換える。
• UCB-DEを導入する。2段階のバッチBOアルゴリズムである：最初の点は標準的なUCB獲得関数により選択し、残りの点はSobol系列を用いたDEにより選択。
• Sobol系列の低分散性を活用して、各点のためのGPモデルの再訓練なしに、探索空間を均等にカバーする。
• 各バッチ点のための繰り返しGP事後分布の更新や複雑な最適化を回避することで、BUCB、DPP、LP手法と比較して計算コストを削減する。
• 最初の点はUCBによる1回のグローバル最適化で選択し、残りの点はSobol系列による決定的サンプリングで生成する。これにより、高速かつスケーラブルなバッチ生成が可能になる。

実験結果

リサーチクエスチョン

• RQ1 関数評価コストが高くない場合に、計算コストが低いバッチベイズ最適化手法を設計できるか？
• RQ2 Sobol系列を用いた距離ベース探索戦略は、評価コストが低い関数のバッチ選択において、反復的グローバル最適化を上回る性能を示せるか？
• RQ3 1回のグローバル最適化ステップに続く決定的空間充填が、既存のバッチBO手法よりも優れた計算効率を達成できるか？
• RQ4 実世界の、中程度のコストを伴う関数において、提案手法UCB-DEはベースラインと比較して収束速度と最適化性能に優れているか？
• RQ5 Sobol系列の使用は、バッチベイズ最適化における計算コストの削減を図りつつ、探索品質を維持できるか？

主な発見

• UCB-DEは、すべてのベンチマークおよび実世界の応用において、最短時間で最良の最適化性能を達成し、BUCB、L-BFGS-B、Direct手法を上回る。
• PES獲得関数最適化において、UCB-DEは最適値が同じ場合に最適化時間を800秒から100秒に短縮し、6倍の高速化を達成した。
• バッチサイズが増加するにつれ、UCB-DEの計算時間はほぼ一定を維持するが、BUCBの計算時間は繰り返しグローバル最適化ステップのため著しく増加する。
• 6次元Hartmann関数の実験では、UCB-DEはBUCBより3～6倍速く、最適値への収束は同等またはそれ以上であった。
• 高次元設定（d=10）でも高い性能を維持しており、ロバストネスとスケーラビリティを示している。
• UCBを用いたランダムサーチ（UCB-Rand）は驚くほど良好な性能を示したが、UCB-DEは特に複雑または高次元の問題において、スピードと正確性の両面でそれを上回った。