[논문 리뷰] Kalman Filter Tuning with Bayesian Optimization

Zhaozhong Chen, Nisar Ahmed외 2명|arXiv (Cornell University)|2019. 12. 17.

Gaussian Processes and Bayesian Inference참고 문헌 21인용 수 10

한 줄 요약

이 논문은 지상 진실 상태가 필요 없는 성능 지표로 정규화된 잔차 제곱(NIS)을 사용하여 칼만 필터 노이즈 파라미터를 튜닝하기 위한 베이지안 최적화(BO) 프레임워크를 제안한다. 비정규화된 불확실성과 외곽치에 더 잘 견디는 비모수적 스튜던트-t 프로세스 회귀를 활용함으로써, BO는 비선형적이고 확률적인 튜닝 환경을 효율적으로 탐색하며, 지상 진실 상태가 없더라도 신뢰할 수 있고 계산적으로 효율적인 파라미터 추정을 달성한다. 이는 화성 과학 탐사선 스카이크레인의 종방향 상태 추정 문제에 성공적으로 적용되었다.

ABSTRACT

Many state estimation algorithms must be tuned given the state space process and observation models, the process and observation noise parameters must be chosen. Conventional tuning approaches rely on heuristic hand-tuning or gradient-based optimization techniques to minimize a performance cost function. However, the relationship between tuned noise values and estimator performance is highly nonlinear and stochastic. Therefore, the tuning solutions can easily get trapped in local minima, which can lead to poor choices of noise parameters and suboptimal estimator performance. This paper describes how Bayesian Optimization (BO) can overcome these issues. BO poses optimization as a Bayesian search problem for a stochastic ``black box'' cost function, where the goal is to search the solution space to maximize the probability of improving the current best solution. As such, BO offers a principled approach to optimization-based estimator tuning in the presence of local minima and performance stochasticity. While extended Kalman filters (EKFs) are the main focus of this work, BO can be similarly used to tune other related state space filters. The method presented here uses performance metrics derived from normalized innovation squared (NIS) filter residuals obtained via sensor data, which renders knowledge of ground-truth states unnecessary. The robustness, accuracy, and reliability of BO-based tuning is illustrated on practical nonlinear state estimation problems,losed-loop aero-robotic control.

연구 동기 및 목표

• 비선형성과 성능 지표의 확률적 특성으로 인해 흔히 실패하는 히وري스틱 및 기울기 기반 칼만 필터 튜닝의 한계를 해결하기 위해.
• 지상 진실 상태 데이터가 필요 없는 튜닝 프레임워크를 개발하여 실세계 시스템에 실용적으로 구현 가능하게 하기 위해.
• 비모수적 스튜던트-t 프로세스 보조 모델을 활용한 베이지안 최적화를 통해 필터 파라미터 튜닝의 강건성과 수렴성을 향상시키기 위해.
• 화성 과학 탐사선 스카이크레인의 종방향 상태 추정 문제와 같은 도전적인 비선형 항공우주 응용 분야에서 방법을 검증하기 위해.

제안 방법

• 성능 비용 함수를 확률적 블랙박스로 간주함으로써 칼만 필터 튜닝을 베이지안 최적화 문제로 재구성한다.
• 표준 가우시안 프로세스보다 불확실성과 외곽치를 더 잘 다루는 비모수적 스튜던트-t 프로세스 기반 보조 모델을 사용한다.
• 사용된 성능 지표는 정규화된 잔차 제곱(NIS)으로, 센서 측정치와 필터 예측값에서 직접 계산되며 지상 진실 상태 데이터가 필요 없음을 보장한다.
• 최적화 프레임워크는 현재 최고 성능 해를 향해 향상될 가능성을 극대화하는 방식으로 새로운 노이즈 파라미터 설정을 순차적으로 선택하며, 탐색과 이용의 균형을 이룬다.
• 이 방법은 확장된 칼만 필터(EKFs)에 적용 가능하며 다른 상태공간 필터링 알고리즘으로도 일반화 가능하다.
• 모든 파라미터 공간에 대한 확률적 추론을 포함하여 최적의 파라미터 값뿐만 아니라 불확실성 추정치도 제공한다.

실험 결과

연구 질문

• RQ1 비모수적 스튜던트-t 프로세스 보조 모델을 활용한 베이지안 최적화가 기존 튜닝 방법보다 수렴성과 강건성 측면에서 칼만 필터 노이즈 파라미터 튜닝에 뛰어나게 작용할 수 있는가?
• RQ2 NIS 기반 성능 지표는 실세계 응용에서 지상 진실 상태 데이터에 접근할 수 없을 경우에도 효과적인 필터 튜닝을 가능하게 할 수 있는가?
• RQ3 제안된 BO 프레임워크는 노이즈 파라미터와 추정 성능 간의 비선형성과 확률적 특성을 어떻게 다루는가?
• RQ4 복잡한 비선형 항공우주 시스템인 화성 스카이크레인에서 이 방법이 신뢰할 수 있고 계산적으로 효율적인 파라미터 추정치를 얼마나 잘 제공할 수 있는가?
• RQ5 이 프레임워크는 최적의 파라미터뿐만 아니라 파라미터 공간 전역에 걸쳐 확률적 불확실성 추정치를 제공할 수 있는가? 즉, 점 추정치 외의 통찰을 제공하는가?

주요 결과

• BO 기반 튜닝 프레임워크는 지상 진실 상태 데이터가 없더라도 화성 스카이크레인 종방향 상태 추정 문제에 대해 최적의 과정 및 관측 노이즈 파라미터를 성공적으로 식별하였다.
• NIS를 성능 지표로 사용함으로써 지상 진실 상태가 확보되지 않는 실세계 시나리오에서도 효과적인 튜닝이 가능했으며, 실용성의 타당성이 입증되었다.
• 스튜던트-t 프로세스 보조 모델은 가우시안 프로세스에 비해 외곽치 및 불확실성에 더 강건함을 입증하여 최적화의 안정성을 향상시켰다.
• 이 방법은 국소 최솟값에 갇히기 쉬운 기울기 기반 접근 방식을 피하면서도 신뢰할 수 있는 수렴을 달성하여 고성능 파라미터 설정에 도달하였다.
• 프레임워크는 파라미터 공간 전반에 걸쳐 확률적 불확실성 추정치를 제공하여 점 추정치 외의 통찰을 제공하였으며, 이는 최신 자동 튜닝 방법에서는 확보되지 않은 특징이다.
• 시뮬레이션 결과는 이 방법이 도전적인 비선형 추정 과제에서 계산적 효율성과 신뢰성을 확보하고 있음을 확인하였으며, 실세계 적용 가능성의 잠재력을 입증하였다.