[論文レビュー] Efficient batch-sequential Bayesian optimization with moments of truncated Gaussian vectors

Sébastien Marmin, Clément Chevalier+1 more|arXiv (Cornell University)|Sep 9, 2016

Advanced Multi-Objective Optimization Algorithms参考文献 32被引用数 6

ひとこと要約

本稿は、切り捨て正規分布ベクトルのモーメントを活用して、バッチ逐次ベイズ最適化における多点期待改善（q-EI）基準の閉形式解析的解を提案する。q-EIの勾配を閉形式で導出し、効率的な数値近似を可能にすることで、勾配に基づく最適化が可能となり、モンテカルロ法と比較して計算量を1〜2桁削減する。

ABSTRACT

We deal with the efficient parallelization of Bayesian global optimization algorithms, and more specifically of those based on the expected improvement criterion and its variants. A closed form formula relying on multivariate Gaussian cumulative distribution functions is established for a generalized version of the multipoint expected improvement criterion. In turn, the latter relies on intermediate results that could be of independent interest concerning moments of truncated Gaussian vectors. The obtained expansion of the criterion enables studying its differentiability with respect to point batches and calculating the corresponding gradient in closed form. Furthermore , we derive fast numerical approximations of this gradient and propose efficient batch optimization strategies. Numerical experiments illustrate that the proposed approaches enable computational savings of between one and two order of magnitudes, hence enabling derivative-based batch-sequential acquisition function maximization to become a practically implementable and efficient standard.

研究の動機と目的

• 多点期待改善（q-EI）基準の閉形式表現を導出することで、並列で効率的なベイズ最適化を可能にする。
• q-EIのバッチ入力点に関する微分可能性に関する理論的基盤を確立する。
• 実用的な最適化に適した、q-EI勾配の高速かつ高精度な数値近似を構築する。
• q-EIのモンテカルロサンプリングに起因するバッチ逐次ベイズ最適化における計算ボトルネックを克服する。

提案手法

• 多次元正規分布の累積分布関数と切り捨て正規分布ベクトルのモーメントを用いて、q-EIの閉形式表現を導出する。
• 候補点のバッチに関するq-EIの新しい解析的勾配を導入し、勾配に基づく最適化を可能にする。
• プラケットの微分方程式を用いて、切断下での多次元正規分布のCDFの導関数を計算する。
• 効率的な切り捨て正規分布モーメントの評価を用いて、勾配の高速な数値近似を提案する。
• 対称性と構造的分解を活用して、勾配計算における計算複雑度を低減する。
• 条件付きガウス過程と線形変換を用いて、候補点と観測点の同時分布をモデル化する。

実験結果

リサーチクエスチョン

• RQ1 マルチポイント期待改善基準は、モンテカルロサンプリングに依存せずに閉形式で表現可能か？
• RQ2 q-EI基準はバッチ候補点に関して微分可能であり、その勾配を解析的に計算可能か？
• RQ3 高精度かつ計算スケーラブルなq-EI勾配の効率的数値近似を導出可能か？
• RQ4 勾配に基づく最適化がモンテカルロベースの手法に比べて、計算効率でどの程度優れるか？
• RQ5 導出された解析的表現と近似式は、バッチ逐次ベイズ最適化のスケーラビリティをどの程度向上させるか？

主な発見

• 本稿では、多次元正規分布のCDFと切り捨て正規分布ベクトルのモーメントを用いて、q-EI基準の閉形式表現を導出した。
• q-EI基準がバッチ入力点に関して微分可能であり、その勾配が閉形式で計算可能であることが示された。
• 高精度かつモンテカルロ法よりも著しく高速な勾配の数値近似が開発された。
• 数値実験では、計算量が1〜2桁削減され、勾配に基づくバッチ最適化が実用的になった。
• 提案手法により、効率的でスケーラブルかつ決定論的な取得関数最適化が、バッチ逐次ベイズ最適化で可能になった。