[論文レビュー] Bayesian optimisation under uncertain inputs

Rafael Oliveira, Lionel Ott+1 more|arXiv (Cornell University)|Feb 21, 2019

Advanced Bandit Algorithms Research被引用数 19

ひとこと要約

本稿では、入力位置をカーネル埋め込みとガウス過程を用いて確率分布としてモデル化することにより、入力の不確実性を扱うベイズ最適化アルゴリズムuGP-UCBを提案する。この手法は入力不確実性下での理論的レグレットバウンドを提供し、ノイズのある実行や局所化誤差を伴うシミュレート済みおよび実世界のシナリオにおいて、従来の手法を上回る性能を発揮する。

ABSTRACT

Bayesian optimisation (BO) has been a successful approach to optimise functions which are expensive to evaluate and whose observations are noisy. Classical BO algorithms, however, do not account for errors about the location where observations are taken, which is a common issue in problems with physical components. In these cases, the estimation of the actual query location is also subject to uncertainty. In this context, we propose an upper confidence bound (UCB) algorithm for BO problems where both the outcome of a query and the true query location are uncertain. The algorithm employs a Gaussian process model that takes probability distributions as inputs. Theoretical results are provided for both the proposed algorithm and a conventional UCB approach within the uncertain-inputs setting. Finally, we evaluate each method's performance experimentally, comparing them to other input noise aware BO approaches on simulated scenarios involving synthetic and real data.

研究の動機と目的

• 実行および局所化ノイズによるクエリ位置の不確実性が生じるベイズ最適化問題に対処すること。
• ベイズ最適化における不確実な入力下でのレグレット解析の理論的枠組みを構築すること。
• 不確実な入力をガウス過程フレームワーク内での確率分布としてモデル化する、新しいアルゴリズムuGP-UCBを提案すること。
• 合成および実データ上で、既存の入力ノイズ対応BO手法と比較してuGP-UCBの実験的評価を行うこと。

提案手法

• 確率分布のカーネル埋め込みを用いて、不確実な入力を持つガウス過程の有効なカーネルを定義する。
• 入力と出力観測の両方の不確実性を考慮した、変更された上側信頼区間（UCB）の獲得関数を採用する。
• ガウス入力分布に対して解析的に導出された、不確かな入力用の二乗指数カーネルを適用し、GPの共分散を計算する。
• 推定された真のクエリ位置分布 $ P^L_t $ と実行ノイズ $ P^E_{m{x}} $ をGPモデルに統合し、期待関数値を予測する。
• ピンスカールの不等式と再生核ヒルベルト空間ノルムを用いて、不確実な入力下でのuGP-UCBおよび標準的IGP-UCBの理論的レグレットバウンドを導出する。
• 期待関数値の入力不確実性下での計算に、モンテカルロサンプリングおよびカーネル化された期待値近似を用いる。

実験結果

リサーチクエスチョン

• RQ1 クエリ位置の入力不確実性が、標準的ベイズ最適化アルゴリズムの性能に与える影響は何か？
• RQ2 点推定ではなく確率分布を扱えるように、GPベースの獲得関数をどのように適合させられるか？特にノイズのある実行環境でのロバストネス向上に寄与するか？
• RQ3 不確実な入力下でのベイズ最適化に対して、どのような理論的レグレットバウンドを確立できるか？
• RQ4 提案されたuGP-UCBアルゴリズムは、既存の入力ノイズ対応BO手法と比較して、収束性およびロバストネスの観点でどのように異なるか？
• RQ5 カーネル埋め込みによる入力不確実性のモデル化が、最適化の効率性および正確性に与える影響は何か？

主な発見

• uGP-UCBアルゴリズムは、合成的および実世界のシナリオにおいて、不確実な入力下で標準的IGP-UCBおよび他の入力ノイズ対応手法よりも低いレグレットを達成する。
• 不確実な入力下でのuGP-UCBおよびIGP-UCBの理論的レグレットバウンドが導出され、レグレットが推定された入力分布と真の入力分布のカルバック・ライブララー距離に比例して増加することを示している。
• 不確かな入力用の二乗指数カーネルは、ガウス入力分布に対して解析的解を提供し、GPモデル内での計算を効率化可能である。
• 実験結果から、入力不確実性が高い状況下でuGP-UCBは収束が早く、ベースライン手法よりも優れた最適化性能を発揮することが示された。
• 特に高次元またはノイズが多い環境では、スケンティド変換やモンテカルロ統合を用いる手法よりも、本手法が優れた性能を発揮する。
• 理論的分析により、入力不確実性下での期待関数値がGPノルムおよび入力分布間のKL距離によって上限付けられることを確認し、安定性が保証された。