[論文レビュー] Distributionally Robust Bayesian Quadrature Optimization

Thanh Nguyen-Tang, Sunil Gupta+3 more|arXiv (Cornell University)|Jan 19, 2020

Advanced Bandit Algorithms Research参考文献 19被引用数 6

ひとこと要約

本稿では、χ²球内における最も悪質な分布の下での期待目的関数を最大化することで、標本数が少ない状況下での分布的不確実性を扱う、後方サンプリングに基づくアルゴリズムである分布的ロバストなベイジアン四則積分最適化（DRBQO）を提案する。DRBQOは、サブラインアーなベイジアンレグレットを達成し、合成的および実世界のハイパーパramータチューニングタスクにおいて、特に小標本条件下で、標準的なBQOおよびMTBOベースラインを上回る性能を示す。

ABSTRACT

Bayesian quadrature optimization (BQO) maximizes the expectation of an expensive black-box integrand taken over a known probability distribution. In this work, we study BQO under distributional uncertainty in which the underlying probability distribution is unknown except for a limited set of its i.i.d. samples. A standard BQO approach maximizes the Monte Carlo estimate of the true expected objective given the fixed sample set. Though Monte Carlo estimate is unbiased, it has high variance given a small set of samples; thus can result in a spurious objective function. We adopt the distributionally robust optimization perspective to this problem by maximizing the expected objective under the most adversarial distribution. In particular, we propose a novel posterior sampling based algorithm, namely distributionally robust BQO (DRBQO) for this purpose. We demonstrate the empirical effectiveness of our proposed framework in synthetic and real-world problems, and characterize its theoretical convergence via Bayesian regret.

研究の動機と目的

• 標本数が少ない場合に生じる分布的不確実性のため、標準的なベイジアン四則積分最適化（BQO）の限界を解消すること。
• 限られたi.i.d.標本しか入手できない状況下で、真の文脈分布P₀の不確実性を考慮するロバストな最適化フレームワークの構築。
• 分布的不確実な状況下でのロバストネスを評価するための新たな性能指標、ρレグレットの導入。
• サブラインアーなベイジアンレグレットを用いて、提案アルゴリズムの収束特性を理論的に同定すること。
• MNISTベースのモデル最適化を含む、合成的および実世界のハイパーパramータチューニング問題におけるDRBQOの有効性の経験的妥当性の検証。

提案手法

• 真の分布P₀が有限な標本集合Sₙでのみ知られている状況下で、分布的不確実性下での期待目的関数の最大化問題として定式化する。
• 各イテレーションで補助的な分布的ロバスト最適化問題を解く、後方サンプリングに基づくDRBQOを提案する。
• χ²発散球を用いて悪質な分布の集合を定義し、経験分布に対する最悪の摂動に対してロバスト性を保証する。
• 各ステップで悪質な分布に関する内部最適化問題を、バイセクションサーチを用いて効率的に解く。
• ブラックボックス関数f(x,w)に対してガウス過程（GP）モデルを用い、分布的不確実性下での最悪ケース期待値を考慮した補助的目的関数を構築する。
• fのGPモデルと分布的ロバストネスフレームワークを統合し、期待目的関数g(x)のロバスト推定を導出する。

実験結果

リサーチクエスチョン

• RQ1 文脈分布P₀における分布的不確実性が、標準的なベイジアン四則積分最適化（BQO）の性能に与える影響は何か？
• RQ2 後方サンプリングに基づくアプローチは、ベイジアン四則積分最適化における分布的摂動下でも効果的にロバストな解を探索できるか？
• RQ3 分布的ロバストなBQOアルゴリズムの理論的収束挙動は何か？また、サブラインアーなベイジアンレグレットを達成できるか？
• RQ4 限られた検証データを有する実世界のハイパーパramータチューニングタスクにおいて、DRBQOは標準的なBQOおよびMTBOと比較してどのように性能を発揮するか？
• RQ5 DRBQOはρパラメータを用いてどの程度ロバストネスを制御可能であり、これは小標本問題における性能にどのように影響するか？

主な発見

• DRBQOはサブラインアーなベイジアンレグレットを達成し、分布的不確実性下でも理論的収束を示す。
• MNISTハイパーパラメータチューニング実験では、ρ=5のDRBQOがCNNで1.321±0.061%のテスト誤差を達成し、BQO-TSベースライン（1.869±0.232%）およびMTBO（1.712±0.263%）を上回った。
• ElasticNetでは、ρ=5のDRBQOが8.380±0.022%のテスト誤差を達成し、BQO-TSベースライン（8.625±0.116%）およびMTBO（8.576±0.080%）を著しく下回った。
• DRBQOは、すべてのρ値においてBQO-EIおよびBQO-TSを一貫して上回り、特にρ=5（例：ρ=5）の高い値で最高の結果が得られ、ロバストネスの向上が示された。
• アルゴリズムは、小標本条件下でのモンテカルロ推定の高分散を効果的に緩和し、標準的なBQOで一般的に見られる誤った最適解を回避した。
• 経験的結果から、DRBQOはクロスバリデーションのfold間で性能が著しく変動する状況においても、よりロバストなハイパーパラメータ設定を提供することが示された。