[論文レビュー] Batched High-dimensional Bayesian Optimization via Structural Kernel Learning

Zi Wang, Chengtao Li+2 more|arXiv (Cornell University)|Mar 6, 2017

Machine Learning and Data Classification被引用数 47

ひとこと要約

本稿では、ギブスサンプリングを用いて入力空間における潜在的加法的構造を同時に学習し、構造的カーネル学習とデターミナント・ポイント・プロセス（DPP）を用いたバッチ選択により、多様で高品質なバッチを効果的に選択する、バッチ処理可能な高次元ベイズ最適化手法を提案する。この手法は、次元数が高くなるに従い、最先端の手法を著しく上回る性能を発揮する。

ABSTRACT

Optimization of high-dimensional black-box functions is an extremely challenging problem. While Bayesian optimization has emerged as a popular approach for optimizing black-box functions, its applicability has been limited to low-dimensional problems due to its computational and statistical challenges arising from high-dimensional settings. In this paper, we propose to tackle these challenges by (1) assuming a latent additive structure in the function and inferring it properly for more efficient and effective BO, and (2) performing multiple evaluations in parallel to reduce the number of iterations required by the method. Our novel approach learns the latent structure with Gibbs sampling and constructs batched queries using determinantal point processes. Experimental validations on both synthetic and real-world functions demonstrate that the proposed method outperforms the existing state-of-the-art approaches.

研究の動機と目的

• 標準的なベイズ最適化において計算的・統計的に困難な高次元ブラックボックス関数の最適化という課題に対処すること。
• 従来のベイズ最適化における逐次的評価の制限を克服し、関数評価をバッチ処理で並列化すること。
• 高次元関数の潜在的加法的構造を同時に推論することで、有効次元数を低減し、サンプル効率を向上させること。
• 探索（多様性）と活用（品質）のバランスを取る、スケーラブルで効果的なバッチ選択戦略を開発すること。
• ロボット制御やハイパーパramータチューニングなどの現実世界の高次元問題におけるベイズ最適化の性能を向上させること。

提案手法

• 各成分が入力次元の互いに重複しない部分集合上で作用する、潜在的部分空間を有する加法的ガウス過程で高次元関数をモデル化する。
• ギブスサンプリングを用いて、入力次元の潜在的分解とカーネルハイパーパramータを同時に推論し、部分空間の次元数を事前に仮定せずに構造学習を可能にする。
• デターミナント・ポイント・プロセス（DPP）を用いてバッチクエリを構築し、選択された点の多様性を促進するとともに、期待改善度の高い選択を維持する。
• バッチ化された獲得関数（例：UCBベース）を構造的カーネルと統合し、複数の点を同時に選択するための指針を提供する。
• UCBスコアによる品質駆動型選択とDPPによる多様性促進を統合したハイブリッド目的関数を構築し、サブモジュラ多様性の代理としてDPP最適化バッチを用いる。
• 分解における最大グループサイズを制限することで、高次元設定におけるスケーラビリティを向上させるとともに、過学習を回避する。

実験結果

リサーチクエスチョン

• RQ1 潜在的加法的構造とバッチ化獲得関数の共同学習は、高次元ベイズ最適化におけるサンプル効率を向上させるか？
• RQ2 高次元設定において、DPPを用いたバッチ選択は、グリーディーまたはランダム選択と比較してどのように異なるか？
• RQ3 品質（例：UCBスコア）と多様性（DPP経由）を組み合わせたバッチ選択は、単一の要因に特化した手法よりも最適化性能を向上させるか？
• RQ4 提案手法の性能は、入力次元数の増加に伴い、既存の最先端手法と比較してどのように変化するか？
• RQ5 本手法は、複雑なパrameter空間を有するロボット制御などの現実世界の高次元問題を効果的に最適化できるか？

主な発見

• 提案手法であるBatch-UCB-DPP-Fncは、全テストベンチマークで最良の性能を達成し、ランダムサンプリングや他のバッチ選択戦略を著しく上回る。
• 20次元および50次元の合成関数において、Batch-UCB-DPP-Fncは他の手法と比較してより大きな性能差を示し、高次元における探索と活用のバランスの向上を示している。
• 25パラメータを有する現実世界のWalker二足歩行ロボットタスクにおいて、すべての多様なバッチサンプリング手法がランダムサンプリングを大きく上回り、Batch-UCB-DPP-Fncは最小の単純レグレットを達成した。
• バッチサイズをB=10からB=5に増大させた場合、Batch-UCB-DPP-Fncと他の手法との性能差が拡大し、スケーラビリティとロバスト性を示している。
• ギブスサンプリングによる潜在的加法的構造の学習が効果的に実行され、真の分解が未知であっても効率的な最適化が可能である。
• 構造的カーネル学習とDPPに基づくバッチ選択の組み合わせにより、既存のバッチ化BO手法と比較して収束が速く、累積レグレットも低減された。