[論文レビュー] Uncertainty quantification using martingales for misspecified Gaussian processes

Willie Neiswanger, Aaditya Ramdas|arXiv (Cornell University)|Jun 12, 2020

Gaussian Processes and Bayesian Inference参考文献 37被引用数 5

ひとこと要約

本稿では、マルティングルール技術を用いて一様に有効な不確実性帯を構築することで、事前分布の誤り指定に対しても統計的に有効なまま保たれるガウス過程（GPs）の頻度主義的信頼列を提案する。標準的なGP事後分布帯とは異なり、事前分布が誤っている場合に誤解を招く可能性があるが、本手法は事前分布の正確性にかかわらず被覆確率の保証を提供する。ただし、事前分布が正しい場合、区間が広がるという代償を伴う。実際の応用、特にベイズ最適化の文脈において、そのロバスト性が顕著に示されている。

ABSTRACT

We address uncertainty quantification for Gaussian processes (GPs) under misspecified priors, with an eye towards Bayesian Optimization (BO). GPs are widely used in BO because they easily enable exploration based on posterior uncertainty bands. However, this convenience comes at the cost of robustness: a typical function encountered in practice is unlikely to have been drawn from the data scientist's prior, in which case uncertainty estimates can be misleading, and the resulting exploration can be suboptimal. We present a frequentist approach to GP/BO uncertainty quantification. We utilize the GP framework as a working model, but do not assume correctness of the prior. We instead construct a confidence sequence (CS) for the unknown function using martingale techniques. There is a necessary cost to achieving robustness: if the prior was correct, posterior GP bands are narrower than our CS. Nevertheless, when the prior is wrong, our CS is statistically valid and empirically outperforms standard GP methods, in terms of both coverage and utility for BO. Additionally, we demonstrate that powered likelihoods provide robustness against model misspecification.

研究の動機と目的

• 事前分布が誤っている場合に不確実性推定が信頼できないという、ベイズ最適化において一般的な問題に対処すること。
• 事前分布の正しさに依存せず、真の関数に対する一様に有効な信頼列を提供する頻度主義的手法を開発すること。
• ベルンシュタイン＝フォン・ミーゼスの定理が成立しない高次元または無限次元関数空間においても統計的妥当性を維持すること。
• 事前分布が不正確な状況において、ロバスト性と精度のトレードオフを評価すること。
• 信頼列フレームワーク内でのハイパーパrameterチューニングおよび適応的信念パラメータの実用的統合を検討すること。

提案手法

• マルティングルール理論を用いて、真の関数が時間の経過にわたって高い確率で信頼列内に存在するように、未知関数の信頼列（CS）を構築する。
• 関数族 $\mathcal{F}$ と信念パラメータ $\gamma$ を用い、観測データと事前分布下での予測との乖離を追跡する確率過程を定義する。
• 逐次尤度比検定とマルティングルール不等式を適用し、証拠に基づいて自発的に広がったり狭まったりするデータ依存の信頼帯を導出する。
• 特にハイパーパrameterがデータから推定される場合にモデル誤り指定に対するロバスト性を高めるために、パワー付き尤度を統合する。
• カーネル化された関数族を用い、各時刻 $t$ において凸結合によるカーネルベースの射影の組み合わせによって信頼集合 $C_t$ を計算する。
• 信頼集合が取り扱い可能であるように $\mathcal{F}$ を選択することで、計算の実行可能性を保証する。

実験結果

リサーチクエスチョン

• RQ1 任意の事前分布の誤り指定に対しても有効な被覆を維持するガウス過程の信頼列を構築できるか？
• RQ2 ベイズ最適化における被覆性と実用性の観点から、提案された信頼列と標準的なGP事後分布帯の性能を比較するとどうなるか？
• RQ3 信頼列を事後信用区間の代わりに用いる場合、ロバスト性と精度のトレードオフはどのように変化するか？
• RQ4 最尤推定や交差検証などのハイパーパrameter推定手法を、信頼列フレームワークに意味的に統合できるか？
• RQ5 信念パラメータ $\gamma$ を動的に適応させることで、事前分布への信頼と誤り指定に対するロバスト性のバランスを取ることは可能か？

主な発見

• 提案された信頼列は、GP事前分布が誤っている場合であっても、時間の経過にわたって一様に被覆確率 $\leq \alpha$ を維持し、統計的妥当性を保証する。
• 事前分布が正しい場合、信頼列は標準的なGP事後分布帯よりも広がっており、ロバスト性の代償が顕在化している。
• 事前分布が誤っている場合、より多くのデータが得られるにつれて信頼列は真の関数を回復し、包含するが、標準的なGP帯は真の値に収束しなくなる。
• ベイズ最適化のシミュレーションにおいて、被覆性と実用性の両面で、本手法は標準的なGP不確実性評価を上回る。
• パワー付き尤度が、特にハイパーパrameterがデータから推定される場合に、モデル誤り指定に対するロバスト性を向上させることを示している。
• 結果から、無限次元関数空間ではベルンシュタイン＝フォン・ミーゼスの定理が成立しないことが確認され、このような設定では頻度主義的信頼列の必要性が裏付けられた。