[論文レビュー] Batched Large-scale Bayesian Optimization in High-dimensional Spaces

Zi Wang, Clement Gehring+2 more|arXiv (Cornell University)|Jun 5, 2017

Gaussian Processes and Bayesian Inference参考文献 24被引用数 70

ひとこと要約

論文は Ensemble Bayesian Optimization (EBO) を導入します。これは Mondrian-based partitions に基づく分割で Gibbs sampling を用いて学習された TileGPs のアンサンブルを利用し、並列バッチクエリを可能にして不確実性推定を改善する高次元・大規模問題向けのスケーラブルな BO フレームワークです。

ABSTRACT

Bayesian optimization (BO) has become an effective approach for black-box function optimization problems when function evaluations are expensive and the optimum can be achieved within a relatively small number of queries. However, many cases, such as the ones with high-dimensional inputs, may require a much larger number of observations for optimization. Despite an abundance of observations thanks to parallel experiments, current BO techniques have been limited to merely a few thousand observations. In this paper, we propose ensemble Bayesian optimization (EBO) to address three current challenges in BO simultaneously: (1) large-scale observations; (2) high dimensional input spaces; and (3) selections of batch queries that balance quality and diversity. The key idea of EBO is to operate on an ensemble of additive Gaussian process models, each of which possesses a randomized strategy to divide and conquer. We show unprecedented, previously impossible results of scaling up BO to tens of thousands of observations within minutes of computation.

研究の動機と目的

• 高次元・大規模な設定におけるベイズ最適化の課題に対処する。
• 関数評価と事後推定を加速させるために並列性を活用する。
• 局所性を保ちつつ不確実性推定を提供する、アンサンブル型・パーティションベースの GP フレームワークを開発する。
• 品質と多様性を均衡させる自動バッチクエリ生成を実現する。

提案手法

• Mondrian プロセスを用いて入力空間を J 個の領域に分割する。
• 各分割内で、カーネル幅と分解を推定するために Gibbs サンプリングを用いてローカル TileGP（加法構造と tile/mondrian 特徴を持つ GP）を学習する。
• 分割特異的 GP モデルのアンサンブルを構築し、各反復で1つのメンバーを引き出して探索と推定を行う。
• 加法成分内で局所的に獲得関数を最適化し、ブロック座標法風の最適化を可能にする。
• 対分割で候補点を集約し、対数行列式の多様性項と獲得関数に基づくスコアを用いた多様性を考慮したフィルタリング手順を適用する。
• 学習された分割パラメータをワーカー間で同期させ、グローバルなクエリのバッチを形成する。

実験結果

リサーチクエスチョン

• RQ1 ベイズ最適化は高次元空間で tens of thousands の観測規模にどうスケールさせることができるか？
• RQ2 加法的構造を持つ分割GPモデルのアンサンブルは、並列バッチクエリ生成を可能にしつつ正確な不確実性推定を提供できるか？
• RQ3 Mondrian ベースの分割と tile coding の組み合わせは、最適化品質を犠牲にすることなく、スケーラブルで並列化可能な BO を促進しますか？
• RQ4 合成データと実世界のタスクにおける速度と解の品質の点で、EBO は既存のスケーラブル BO アプローチとどのように比較されるか？

主な発見

• EBO は状態-of-the-art メソッドと比較して事後推論を 2–3 桁のオーダー（あるケースでは最大 400x）高速化します。
• EBO は並列計算を用いて tens of thousands の観測を扱うことができ、競争力のあるまたはそれを上回る最適化品質を維持します。
• Tile coding と Gibbs sampling を用いた加法 GP はカーネル構造と分解を効果的に学習し、スケーラブルな BO を実現します。
• Mondrian 分割を横断した並列 Gibbs sampling とバッチクエリ選択は顕著な速度向上をもたらします（例: 240 コア対 10 コアで約 ~20x）。
• 報告された実験では、BO-SVI、BO-Add-SVI、CEM などの代替手法よりも EBO が上回っています。