[論文レビュー] Uniform Error and Posterior Variance Bounds for Gaussian Process Regression with Application to Safe Control

Armin Lederer, Jonas Umlauft+1 more|arXiv (Cornell University)|Jan 13, 2021

Gaussian Processes and Bayesian Inference参考文献 50被引用数 11

ひとこと要約

本稿では、訓練データ分布に対する弱い仮定のもとでゼロに収束する、ガウス過程回帰の新たな一様誤差境界を提示する。これはリプシッツ連続性と事後分散分析を活用したものである。この手法により、漸近的に消える回帰誤差を保証するとともに、ラプラウンフ安定性理論を用いた確率的安心保証を備えた、未知の力学系に対する保証可能かつ安全なモデルベース制御が可能となる。

ABSTRACT

In application areas where data generation is expensive, Gaussian processes are a preferred supervised learning model due to their high data-efficiency. Particularly in model-based control, Gaussian processes allow the derivation of performance guarantees using probabilistic model error bounds. To make these approaches applicable in practice, two open challenges must be solved i) Existing error bounds rely on prior knowledge, which might not be available for many real-world tasks. (ii) The relationship between training data and the posterior variance, which mainly drives the error bound, is not well understood and prevents the asymptotic analysis. This article addresses these issues by presenting a novel uniform error bound using Lipschitz continuity and an analysis of the posterior variance function for a large class of kernels. Additionally, we show how these results can be used to guarantee safe control of an unknown dynamical system and provide numerical illustration examples.

研究の動機と目的

• 強い事前仮定に依存する既存のGP一様誤差境界における収束保証の欠如に対処すること。
• 特に訓練データが増加する条件下で、広範なカーネルクラスにおける事後分散関数の漸近的挙動を分析すること。
• 最小限の事前知識を要する一様誤差境界を導出すること。代わりに、未知関数のリプシッツ連続性に依存すること。
• 導出した誤差境界をラプラウンフに基づく制御フレームワークに統合し、未知の力学系の安全な制御を可能にすること。
• 数値シミュレーションおよびロボットアーム実験を通じて、提案手法の優位性を示すこと。

提案手法

• リプシッツ連続カーネルを用いてGP回帰の事後分散境界を導出する。特定のカーネルクラスに対しては改善がなされる。
• サンプル関数の微分から導出される確率的リプシッツ定数を導入し、事前分布を制約する。
• 一様誤差境界がN → ∞の下でゼロに収束することを保証するための訓練データ分布に関する十分条件を確立する。
• 関数の滑らかさが既知であることを保証するため、導関数に基づく制約を用いた尤度最大化を実施する。
• ラプラウンフ安定性フレームワークに一様誤差境界を適用し、閉ループ系の漸近的安定性および最終的有界性を証明する。
• 複数の確率的事象にわたる和集合不等式を用いて、誤差境界がほとんど確実にゼロに収束することを達成する。

実験結果

リサーチクエスチョン

• RQ1 強い事前知識を要せず、一様誤差境界がゼロに収束するGP回帰の境界を導出可能か？
• RQ2 訓練データが増加し、適切に分布している場合、事後分散はどのように漸近的に振る舞うか？
• RQ3 データ分布にどのような条件が課されると、一様誤差境界がゼロに収束するか？
• RQ4 導出した誤差境界を用いて、未知の力学系のモデルベース制御における安全性を保証できるか？
• RQ5 最新の手法と比較して、提案手法の境界のタイトさと収束速度はどのように異なるか？

主な発見

• 提案された一様誤差境界は、N → ∞ においてほとんど確実にゼロに収束する。ただし、τ(N) ∈ O(N⁻²) を満たす必要がある。
• 同じ条件下で、事後分散境界がO(N⁻¹)であることが示され、データが増加するにつれて不確実性が減少することを保証する。
• 事後平均関数のリプシッツ定数は、高確率でO(N)までしか増加しないことが示され、滑らかさが制御可能であることを反映する。
• 誤差境界 √β(τ)σ_N(x) + γ(τ) が、任意の ε > 0 に対してO(log(N)⁻ε)であることが示され、ほとんど確実にゼロに収束することを示す。
• GPモデルに基づく制御則は、漸近的安定性および最終的有界性を達成する。最終的有界性は、不変集合上でのラプラウンフ関数の最大値によって特徴づけられる。
• 数値結果およびロボットアーム実験により、提案境界がよりタイトな誤差推定とより安全な制御性能を達成できることを確認した。