[論文レビュー] Uniform Error Bounds for Gaussian Process Regression with Application to Safe Control

Armin Lederer, Jonas Umlauft+1 more|arXiv (Cornell University)|Jun 4, 2019

Gaussian Processes and Bayesian Inference参考文献 43被引用数 17

ひとこと要約

本稿では、ガウス過程回帰における一様誤差境界を、従来の研究よりも弱い仮定で得る新規な手法を提案する。この手法は、GPの内在的な確率分布と連続性の議論を活用することで、よりタイトで確率的に保証された誤差境界と確率的リプシッツ定数を可能にし、未知の力学的システムに対する証明可能に安全な制御を実現する。実験では2自由度のロボットアームで検証された。

ABSTRACT

Data-driven models are subject to model errors due to limited and noisy training data. Key to the application of such models in safety-critical domains is the quantification of their model error. Gaussian processes provide such a measure and uniform error bounds have been derived, which allow safe control based on these models. However, existing error bounds require restrictive assumptions. In this paper, we employ the Gaussian process distribution and continuity arguments to derive a novel uniform error bound under weaker assumptions. Furthermore, we demonstrate how this distribution can be used to derive probabilistic Lipschitz constants and analyze the asymptotic behavior of our bound. Finally, we derive safety conditions for the control of unknown dynamical systems based on Gaussian process models and evaluate them in simulations of a robotic manipulator.

研究の動機と目的

• 既存の一様誤差境界が、実世界の安全を重視する応用に不適切な強い仮定に依存しているという限界を解決すること。
• GPの確率分布と連続性の性質を活用して、制限的な事前知識に依存しない新規な一様誤差境界を導出すること。
• GP分布から直接確率的リプシッツ定数を推定し、不確実性の定量化を向上させること。
• 十分なデータと計算リソースがある場合、誤差境界が任意に小さくなるという漸近的収束を確立すること。
• GPモデルを用いた未知の力学的システムの制御のための安全条件を構築し、2自由度のロボットアームを用いたシミュレーションで検証すること。

提案手法

• 再生核ヒルバート空間（RKHS）に依存しない、GPの条件付き分布と連続性の議論を用いた一様誤差境界の導出。
• 連続性のモジュラスと被覆数の概念を用いて、コンactな入力集合全体にわたるGP回帰誤差を一様に束縛する。
• GPのサンプルパス分布に基づく確率的リプシッツ定数推定法を導入し、不確実性を考慮した制御設計を可能にする。
• 誤差境界とリプシッツ定数推定の失敗確率を統合するために、和集合の不等式近似を適用する。
• ラプラス理論を用いて、GPベースの制御器下での閉ループ系の漸近的安定性と安全性を証明する。
• 誤差境界を関節座標空間からタスク空間に変換し、状態の発散を防ぐロボットアーム制御を実現する。

実験結果

リサーチクエスチョン

• RQ1 従来の手法よりも弱い仮定のもとで、GP回帰の一様誤差境界を導出できるか？
• RQ2 制御用途において、GP分布から直接確率的リプシッツ定数を推定する方法は何か？
• RQ3 訓練データと計算リソースを増加させた場合、提案手法の誤差境界の漸近的挙動はいかなるものか？
• RQ4 導出された誤差境界を用いて、未知の力学的システムのフィードバック制御における安全性を保証できるか？
• RQ5 不均一に分布する訓練データは、得られる安全性と追従誤差境界のタイトさにどのように影響するか？

主な発見

• 提案手法の一様誤差境界は、従来の手法よりも著しく弱い仮定に依存しており、実世界のシステムへの応用範囲が広がる。
• 誤差境界はGPの確率分布と連続性に基づいて導出されており、RKHSノルムや計算不能な量（最大情報量など）に依存しない。
• この手法により、GP分布から確率的リプシッツ定数を推定可能となり、ロバスト制御設計に不可欠な要因が得られる。
• 漸近的解析により、十分なデータと計算リソースがあれば、任意に小さな誤差境界を達成可能であることが示された。
• 2-DoFのロボットアームを用いたシミュレーション結果から、ノイズを含む訓練データでも、状態の進化が事前に定義された領域内に束縛されるため、制御が安全であることが確認された。
• 失敗確率を1%に設定した場合、安全境界は保守的であるが、信頼水準を調整することでよりタイトな境界を達成可能である。