[論文レビュー] Truncated Variance Reduction: A Unified Approach to Bayesian Optimization and Level-Set Estimation

Ilija Bogunovic, Jonathan Scarlett+2 more|arXiv (Cornell University)|Oct 24, 2016

Gaussian Processes and Bayesian Inference被引用数 34

ひとこと要約

本稿では、ガウス過程を用いたベイズ最適化とレベルセット推定の統合的アルゴリズムとして、截断分散低減（TruVaR）を提案する。TruVaRは、潜在的な最適化対象点の集合や未分類点の集合内での分散の截断和を貪欲に最小化することで点を選択し、理論的保証を提供するとともに、点別評価コスト、不均一分散ノイズ、複数のノイズレベル選択に対しても効果的に対処できる。ノイズ依存性が改善され、実験的にも優れた性能を示す。

ABSTRACT

We present a new algorithm, truncated variance reduction (TruVaR), that treats Bayesian optimization (BO) and level-set estimation (LSE) with Gaussian processes in a unified fashion. The algorithm greedily shrinks a sum of truncated variances within a set of potential maximizers (BO) or unclassified points (LSE), which is updated based on confidence bounds. TruVaR is effective in several important settings that are typically non-trivial to incorporate into myopic algorithms, including pointwise costs and heteroscedastic noise. We provide a general theoretical guarantee for TruVaR covering these aspects, and use it to recover and strengthen existing results on BO and LSE. Moreover, we provide a new result for a setting where one can select from a number of noise levels having associated costs. We demonstrate the effectiveness of the algorithm on both synthetic and real-world data sets.

研究の動機と目的

• ベイズ最適化とレベルセット推定を、同一のアルゴリズムフレームワークで統合すること。
• 点別評価コストと不均一分散ノイズを効果的に取り扱う手法を開発すること。
• 先行研究と比較してノイズレベル依存性が改善された理論的保証を提供すること。
• 関連コストを伴うノイズレベルの選択が可能な設定への拡張を図ること。
• 合成および実世界のベンチマークにおいて、強力な実験的性能を示すこと。

提案手法

• TruVaRは、ベイズ最適化では潜在的最適化対象点の集合、レベルセット推定では未分類点の集合を維持し、信頼区間を用いて更新する。
• 次の評価点は、アクティブ集合内での分散の截断和を最小化することで選択する。
• 後方予測平均の計算を避ける1ステップ先読み戦略を採用しており、エントロピー探索や最小レジリエンス探索とは異なり、計算コストを低減する。
• 探索を制御するため、動的に更新される$β_t$パラメータを用いた信頼区間を導入する。
• コストとノイズレベルに応じた重み付けを用いることで、点別コストと不均一分散ノイズに対応する。
• 複数のノイズレベル選択の設定では、関連コストを伴う利用可能なノイズレベルに対して、統一された獲得関数を用いて最適化する。

実験結果

リサーチクエスチョン

• RQ1 単一のアルゴリズムが、共通のフレームワーク下でベイズ最適化とレベルセット推定を効果的に統合できるか？
• RQ2 BOおよびLSEにおける計算効率と理論的解析を改善するために、分散低減をどのように截断すればよいか？
• RQ3 点別コストと不均一分散ノイズの下で、TruVaRに理論的保証を確立できるか？
• RQ4 既存手法と比較して、TruVaRは小ノイズ領域においてより良いノイズ依存性を達成できるか？
• RQ5 ノイズレベルがコストを伴って選択可能な設定へ、TruVaRを拡張できるか？

主な発見

• 理論的境界において、ノイズレベル依存性が著しく改善されており、小ノイズ領域における漸近的性能も先行研究を上回る。
• 均一分散ノイズと単位コスト下での標準的なベイズ最適化およびレベルセット推定に対して、既存の理論的結果を回復・強化する。
• 関連コストを伴う複数のノイズレベルからの選択という新しい設定において、コストと精度のバランスを取る新たな理論的保証を提供する。
• 実験的結果から、合成データおよび実世界データの両方において、収束速度と精度の面で既存手法を上回ることが示された。
• 理論的解析により、所定の精度に到達するための評価回数が、ノイズレベルおよび信頼パラメータに著しく有利にスケーリングすることが示された。
• 截断分散低減の使用により、エントロピー探索や最小レジリエンス探索とは異なり、後方予測平均を計算せずに効率的な計算が可能となった。