[논문 리뷰] Uniform Error and Posterior Variance Bounds for Gaussian Process Regression with Application to Safe Control

Armin Lederer, Jonas Umlauft외 1명|arXiv (Cornell University)|2021. 01. 13.

Gaussian Processes and Bayesian Inference참고 문헌 50인용 수 11

한 줄 요약

이 논문은 훈련 데이터 분포에 대한 약한 가정 하에 수렴하는 새로운 균일 오차 한계를 제안하며, 리프시츠 연속성과 사후 분산 분석을 활용한다. 이 방법은 점점 줄어드는 회귀 오차를 보장하고 리아푸노프 안정성 이론을 통해 확률적 안전 보장을 제공함으로써, 알 수 없는 동적 시스템에 대한 증명 가능하게 안전한 모델 기반 제어를 가능하게 한다.

ABSTRACT

In application areas where data generation is expensive, Gaussian processes are a preferred supervised learning model due to their high data-efficiency. Particularly in model-based control, Gaussian processes allow the derivation of performance guarantees using probabilistic model error bounds. To make these approaches applicable in practice, two open challenges must be solved i) Existing error bounds rely on prior knowledge, which might not be available for many real-world tasks. (ii) The relationship between training data and the posterior variance, which mainly drives the error bound, is not well understood and prevents the asymptotic analysis. This article addresses these issues by presenting a novel uniform error bound using Lipschitz continuity and an analysis of the posterior variance function for a large class of kernels. Additionally, we show how these results can be used to guarantee safe control of an unknown dynamical system and provide numerical illustration examples.

연구 동기 및 목표

• 기존 GP 균일 오차 한계가 강한 사전 가정에 의존함으로써 수렴 보장이 부족한 문제를 해결하기 위해.
• 특히 증가하는 훈련 데이터 하에서, 다양한 커널에 대해 사후 분산 함수의 渐近적 행동을 분석하기 위해.
• 최소한의 사전 지식을 요구하는 균일 오차 한계를 유도하기 위해, 알 수 없는 함수의 리프시츠 연속성에 의존하기 위해.
• 유도된 오차 한계를 리아푸노프 기반 제어 프레임워크에 통합하여, 알 수 없는 동적 시스템의 안전한 제어를 가능하게 하기 위해.
• 수치 시뮬레이션과 로봇 액추에이터 실험을 통해 제안된 한계의 우수성을 입증하기 위해.

제안 방법

• 리프시츠 연속 커널을 사용하여 GP 회귀의 사후 분산 한계를 유도하며, 특정 커널 클래스에 대해 개선을 제공한다.
• 표본 함수 도함수에서 유도된 확률적 리프시츠 상수를 도입하여 사전 분포를 제약한다.
• 균일 오차 한계가 N → ∞일 때 0으로 수렴하도록 보장하기 위한 훈련 데이터 분포에 대한 충분한 조건을 설정한다.
• 기존 함수의 부드러움을 반영하기 위해 도함수 기반 제약 조건을 포함한 우도 최대화를 수행하여 사전 일致성을 확보한다.
• 균일 오차 한계를 리아푸노프 안정성 프레임워크에 적용하여 닫힌 루프 시스템의 점근적 안정성과 궁극적 유계성을 증명한다.
• 여러 확률적 사건에 대한 유니언 바운드를 활용하여 오차 한계가 거의 확실히 0으로 수렴하도록 보장한다.

실험 결과

연구 질문

• RQ1 강한 사전 지식이 필요 없이도 GP 회귀의 균일 오차 한계가 0으로 수렴할 수 있는가?
• RQ2 적절하게 분포된 증가하는 훈련 데이터 하에서 사후 분산은 어떻게 渐近적으로 행동하는가?
• RQ3 어떤 데이터 분포 조건이 균일 오차 한계가 0으로 수렴하도록 보장하는가?
• RQ4 유도된 오차 한계를 사용하여 알 수 없는 동적 시스템의 모델 기반 제어에서 안전성을 보장할 수 있는가?
• RQ5 제안된 한계는 최첨단 기법들과 비교해 보았을 때 타이트함과 수렴 속도 측면에서 어떻게 비교되는가?

주요 결과

• 제안된 균일 오차 한계는 N → ∞일 때 거의 확실히 0으로 수렴하며, 이는 τ(N) ∈ O(N⁻²)를 만족할 경우에 한하여 성립한다.
• 동일한 조건 하에서 사후 분산 한계는 O(N⁻¹)임이 입증되었으며, 이는 더 많은 데이터로 인해 불확실성이 감소함을 보장한다.
• 사후 평균 함수의 리프시츠 상수는 높은 확률로 O(N) 이내로 증가하며, 이는 제어된 부드러움을 반영한다.
• 오차 한계 √β(τ)σ_N(x) + γ(τ)는 임의의 ε > 0에 대해 O(log(N)⁻ε)임이 입증되었으며, 이는 거의 확실히 0으로 수렴함을 의미한다.
• GP 모델 기반 제어 법칙은 점근적 안정성과 궁극적 유계성을 달성하며, 궁극적 유계는 불변 집합에서 리아푸노프 함수의 최대값으로 기술된다.
• 수치 결과와 로봇 액추에이터 실험을 통해 제안된 한계가 더 타이트한 오차 추정과 더 안전한 제어 성능을 달성함을 확인하였다.