[論文レビュー] Distributionally Ambiguous Optimization Techniques for Batch Bayesian Optimization

Nikitas Rontsis, Michael A. Osborne+1 more|arXiv (Cornell University)|Jul 13, 2017

Advanced Bandit Algorithms Research参考文献 8被引用数 3

ひとこと要約

本稿では、多変数積分を避けるために分布的ロバスト最適化を活用する、バッチベイズ最適化のための新規で取り扱いやすい獲得関数を提案する。平均と分散がGP事後分布と一致する分布の不確実性集合上での最悪ケース期待値を用いて、期待改善（Expected Improvement）のタイトな下界を凸最適化によって計算することで、大規模なバッチに対しても正確かつ効率的な計算と微分が可能となり、理論的・実用的に既存手法を上回る性能を発揮する。

ABSTRACT

We propose a novel, theoretically-grounded, acquisition function for Batch Bayesian optimization informed by insights from distributionally ambiguous optimization. Our acquisition function is a lower bound on the well-known Expected Improvement function, which requires evaluation of a Gaussian Expectation over a multivariate piecewise affine function. Our bound is computed instead by evaluating the best-case expectation over all probability distributions consistent with the same mean and variance as the original Gaussian distribution. Unlike alternative approaches, including Expected Improvement, our proposed acquisition function avoids multi-dimensional integrations entirely, and can be computed exactly - even on large batch sizes - as the solution of a tractable convex optimization problem. Our suggested acquisition function can also be optimized efficiently, since first and second derivative information can be calculated inexpensively as by-products of the acquisition function calculation itself. We derive various novel theorems that ground our work theoretically and we demonstrate superior performance via simple motivating examples, benchmark functions and real-world problems.

研究の動機と目的

• バッチベイズ最適化における多段階先読みの計算困難性に対処するため、取り扱いやすく理論的裏付けのある獲得関数を提案すること。
• 期待改善における高価な多変数ガウス積分を、同じモーメントを持つ分布の不確実性集合上での凸最適化問題に置き換えること。
• ベイズ最適化における大規模バッチサイズに対し、正確で微分可能かつスケーラブルな獲得関数の計算を可能にすること。
• 非微分性や数値積分を回避する理論的裏付けのある期待改善の代替手法を提供すること。

提案手法

• 獲得関数は、GP事後分布と同一の平均および共分散を持つすべての分布のうち、期待値が最小（最悪）となる場合の期待値を考慮することで、期待改善の下界として導出される。
• この下界は、一次および二次モーメントの制約によって定義される不確実性集合上での取り扱いやすい凸最適化問題を解くことで計算される。
• 分布的ロバスト最適化の原則を活用することで、ロバスト性と計算の取り扱いやすさを確保する。
• 獲得関数の一次および二次微分は、最適化プロセスの副産物として効率的に計算可能であり、勾配ベース最適化を可能にする。
• 最適性条件を再定式化するために、vecおよび対称化ベクトル化（vec_u）作用素を用い、効率的な解法が可能な正方かつ非特異な線形システムに変換する。
• 理論的分析により、獲得関数が正定値コーン上で微分可能であることが証明され、一意性および連続性が確立される。

実験結果

リサーチクエスチョン

• RQ1 バッチベイズ最適化において、高次元積分を回避する分布的ロバストな期待改善の下界を定式化できるか？
• RQ2 凸最適化技術を用いて、この下界を正確かつ効率的に計算できるか？
• RQ3 得られた獲得関数を、勾配ベース最適化を可能にするよう、効率的に微分できるか？
• RQ4 標準的な期待改善よりもスケーラビリティと性能を向上させつつ、理論的保証を維持できるか？
• RQ5 標準的な期待改善の非微分性が最適化に与える影響は何か？ そして、分布的ロバスト性によってこれを克服できるか？

主な発見

• 提案された獲得関数は、期待改善のタイトな下界であり、数値積分を回避する凸最適化により正確に計算可能である。
• この手法により、任意の大規模バッチサイズに対しても、取り扱いやすい凸問題の解として獲得関数の正確な計算が可能である。
• 獲得関数の一次および二次微分は、最適化プロセスの副産物として低コストで計算可能であり、効率的な勾配ベース最適化を可能にする。
• 獲得関数が正定値コーン上で微分可能であることが証明され、標準的な期待改善の非微分性の問題が解消される。
• 理論的分析により、最適性条件および行列の再定式化を通じて、解の一意性、連続性、微分可能性が確立される。
• 実験結果により、ベンチマーク関数および実世界の問題において優れた性能を示し、本手法の効率性とロバスト性が検証された。