[论文解读] Uniform Error and Posterior Variance Bounds for Gaussian Process Regression with Application to Safe Control

Armin Lederer, Jonas Umlauft+1 more|arXiv (Cornell University)|Jan 13, 2021

Gaussian Processes and Bayesian Inference参考文献 50被引用 11

一句话总结

本文提出了一种新颖的高斯过程回归统一误差界，该误差界在训练数据分布满足弱假设条件下收敛于零，利用利普希茨连续性和后验方差分析。该方法通过确保渐近消失的回归误差并结合李雅普诺夫稳定性理论提供概率安全性保证，实现了对未知动力系统的可证明安全的模型基控制。

ABSTRACT

In application areas where data generation is expensive, Gaussian processes are a preferred supervised learning model due to their high data-efficiency. Particularly in model-based control, Gaussian processes allow the derivation of performance guarantees using probabilistic model error bounds. To make these approaches applicable in practice, two open challenges must be solved i) Existing error bounds rely on prior knowledge, which might not be available for many real-world tasks. (ii) The relationship between training data and the posterior variance, which mainly drives the error bound, is not well understood and prevents the asymptotic analysis. This article addresses these issues by presenting a novel uniform error bound using Lipschitz continuity and an analysis of the posterior variance function for a large class of kernels. Additionally, we show how these results can be used to guarantee safe control of an unknown dynamical system and provide numerical illustration examples.

研究动机与目标

• 为解决现有高斯过程统一误差界因依赖强先验假设而导致缺乏收敛保证的问题。
• 分析在广泛核函数类别下，特别是随着训练数据增加时，后验方差函数的渐近行为。
• 推导出一种所需先验知识最少的统一误差界，其依赖于未知函数的利普希茨连续性。
• 通过将推导出的误差界整合到基于李雅普诺夫的控制框架中，实现对未知动力系统的安全控制。
• 通过数值仿真和机械臂实验，展示所提边界的优越性。

提出的方法

• 利用利普希茨连续核函数推导高斯过程回归的后验方差界，并对特定核类进行改进。
• 引入一种基于样本函数导数的随机利普希茨常数，以约束先验分布。
• 建立训练数据分布的充分条件，以确保当 N → ∞ 时统一误差界收敛于零。
• 通过基于导数的约束进行似然最大化，以确保先验与已知函数光滑性一致。
• 将在李雅普诺夫稳定性框架中应用统一误差界，以证明闭环系统的渐近稳定性和最终有界性。
• 通过多个随机事件的并集界，实现误差界以几乎必然方式收敛于零。

实验结果

研究问题

• RQ1 能否推导出一种高斯过程回归的统一误差界，使其在不依赖强先验知识的条件下收敛于零？
• RQ2 在训练数据逐渐增加且分布合适时，后验方差的渐近行为如何？
• RQ3 何种数据分布条件可确保统一误差界收敛于零？
• RQ4 所推导的误差界能否用于保证未知动力系统模型基控制中的安全性？
• RQ5 在紧致性和收敛速率方面，所提边界与最先进方法相比表现如何？

主要发现

• 在 τ(N) ∈ O(N⁻²) 的前提下，所提出的统一误差界以几乎必然方式收敛于零，当 N → ∞ 时成立。
• 在相同条件下，后验方差界被证明为 O(N⁻¹)，确保不确定性随数据增加而减小。
• 后验均值函数的利普希茨常数以高概率最多增长为 O(N)，反映出受控的光滑性。
• 误差界 √β(τ)σ_N(x) + γ(τ) 被证明为 O(log(N)⁻ε)，其中任意 ε > 0，意味着以几乎必然方式收敛于零。
• 基于高斯过程模型的控制律实现了渐近稳定性和最终有界性，其最终有界性由李雅普诺夫函数在不变集上的最大值表征。
• 数值结果和机械臂实验结果证实，所提边界在实现更紧致的误差估计和更安全的控制性能方面具有优越性。