[論文レビュー] Practical and Rigorous Uncertainty Bounds for Gaussian Process Regression

Christian Fiedler, Carsten W. Scherer+1 more|arXiv (Cornell University)|May 6, 2021

Gaussian Processes and Bayesian Inference被引用数 10

ひとこと要約

本稿は、ガウス過程回帰（GPR）の実用的で理論的に厳密な頻度主義的不確実性バインディングを導入しており、従来の手法よりも著しく保守的でない一方で、理論的保証を維持している。再生核ヒルベルト空間（RKHS）理論とロバストネス解析を活用することで、明示的に計算可能なバインディングが得られ、モデルの誤り指定下でも保証された性能と安全性を伴う学習ベース制御を可能にする。

ABSTRACT

Gaussian Process Regression is a popular nonparametric regression method based on Bayesian principles that provides uncertainty estimates for its predictions. However, these estimates are of a Bayesian nature, whereas for some important applications, like learning-based control with safety guarantees, frequentist uncertainty bounds are required. Although such rigorous bounds are available for Gaussian Processes, they are too conservative to be useful in applications. This often leads practitioners to replacing these bounds by heuristics, thus breaking all theoretical guarantees. To address this problem, we introduce new uncertainty bounds that are rigorous, yet practically useful at the same time. In particular, the bounds can be explicitly evaluated and are much less conservative than state of the art results. Furthermore, we show that certain model misspecifications lead to only graceful degradation. We demonstrate these advantages and the usefulness of our results for learning-based control with numerical examples.

研究の動機と目的

• 安全でない応用分野（例：学習ベース制御）に不可欠な、実用的で理論的に厳密な頻度主義的不確実性バインディングの欠如に対処する。
• 既存の理論的バインディングが過度に保守的であるため実用的でないという問題を克服し、明示的に計算可能な、よりきつい不確実性バインディングを開発する。
• 誤ったハイパーパrameterやスパースGP近似などの一般的なモデル誤り指定に対してもロバストであることを保証し、実世界への適用可能性を高める。
• ヒューリスティックな不確実性推定と理論的安全保証の間のギャップを埋め、実装可能な理論的保証を有する明示的バインディングに置き換える。
• 不確実性バインディングが、制約の満たされるとても保証された制御性能と安定性を有するロバストモデル予測制御（RMPC）フレームワークにどのように有効に統合されるかを示す。

提案手法

• 真の関数が既知のRKHS内にあり、ノルムが有界であると仮定し、RKHS理論を用いて不確実性バインディングを定式化する。
• 集中不等式とカーネル行列の性質を用いて、GPR予測誤差に対する明示的で非漸近的な頻度主義的バインディングを導出する。
• 覆いの確率 $1-\delta$ とタイトネスのバランスを取る新しい信頼パラメータ $\beta_N$ を導入し、これはRKHSノルムとデータ分布から導出される。
• 後方平均 $\mu_N(x)$ と分散 $\sigma_N^2(x)$ を用いてバインディングを表現することで、計算の実行可能性を確保し、直接評価を可能にする。
• ハイパーパrameterが不正確であるかスパース近似が用いられた場合の性能低下のなめらかさを示すことで、モデル誤り指定に対するロバストネスを分析する。
• 不確実性集合 $\mathbb{W}(x)$ を用いて制約を厳しくし、ロバストな実行可能性と安定性を保証するロバストモデル予測制御（RMPC）フレームワークにバインディングを統合する。

実験結果

リサーチクエスチョン

• RQ1 GPRの頻度主義的不確実性バインディングを、理論的に厳密でありながら、安全でない制御応用においてヒューリスティックな近似を置き換えるのに十分にタイトであるように導出できるか？
• RQ2 誤ったハイパーパrameterやスパースGP近似などの一般的なモデル誤り指定下でも、不確実性バインディングが有効に保たれ、効果的であることをどのように保証できるか？
• RQ3 提案されたバインディングは、過度に保守的な理論的バインディングと比較して、ロバスト制御アルゴリズムの性能をどの程度向上させるか？
• RQ4 明示的に計算可能であり、理論的保証を失うことなく、RMPCのような既存の制御フレームワークに統合できるか？
• RQ5 実世界の学習シナリオにおいて、信頼水準 $\delta$ が不確実性集合のタイトネスと信頼性に与える影響は何か？

主な発見

• 提案された不確実性バインディングは、Srinivasら（2010年）やChowdhury & Gopalan（2017年）の最先端の理論的バインディングと比較して、著しく保守的でない。これにより、制御応用における実用的利用が可能になる。
• バインディングはGPRの後方平均と分散を用いて明示的に計算可能であり、RKHSノルムとデータから導出される信頼パラメータ $\beta_N$ を用いることで、$1-\delta$ の被覆確率を保証する。
• 数値実験では、バインディングが高い確率（$1-\delta = 0.999$）で真の関数をカバーする一方で、タイトネスを維持していることが示された。質量-ばね-ダンパーの例では $\delta = 0.001$ の条件下でその有効性が確認された。
• モデル誤り指定下でも滑らかに劣化する。誤ったハイパーパrameterやスパース近似が用いられても、バインディングは依然として有効で有用であり、理論的保証を維持する。
• ロバストMPCに統合した場合、バインディングはロバストな制約の満たされるとても保証された制御と、原点の近傍への収束確率の高い性能を保証する。数値ケーススタディでその有効性が検証された。
• フレームワークにより、ヒューリスティックな近似の代わりに理論的根拠のある不確実性推定を用いることが可能になり、学習ベース制御における理論的安全保証を回復する一方で、性能を損なわない。