[논문 리뷰] Weak in the NEES?: Auto-tuning Kalman Filters with Bayesian Optimization

Zhaozhong Chen, Christoffer Heckman외 2명|arXiv (Cornell University)|2018. 07. 23.

Gaussian Processes and Bayesian Inference참고 문헌 2인용 수 6

한 줄 요약

이 논문은 정규화된 추정 오차 제곱(NEES) 또는 정규화된 인노베이션 제곱(NIS)을 확률적 목표 함수로 사용하여 칼만 필터의 파라미터를 자동으로 튜닝하기 위한 베이지안 최적화 프레임워크를 제안한다. 가우시안 프로세스 서rogate 모델을 통해 비용 표면을 모델링함으로써, 전역 최소값을 효율적으로 탐색하고 불확실성을 정량화할 수 있으며, 실제 또는 시뮬레이션된 기준값이 있는 비볼록 최적화 문제에서 전통적인 최적화 방법보다 뛰어난 성능을 발휘한다.

ABSTRACT

Kalman filters are routinely used for many data fusion applications including navigation, tracking, and simultaneous localization and mapping problems. However, significant time and effort is frequently required to tune various Kalman filter model parameters, e.g. process noise covariance, pre-whitening filter models for non-white noise, etc. Conventional optimization techniques for tuning can get stuck in poor local minima and can be expensive to implement with real sensor data. To address these issues, a new "black box" Bayesian optimization strategy is developed for automatically tuning Kalman filters. In this approach, performance is characterized by one of two stochastic objective functions: normalized estimation error squared (NEES) when ground truth state models are available, or the normalized innovation error squared (NIS) when only sensor data is available. By intelligently sampling the parameter space to both learn and exploit a nonparametric Gaussian process surrogate function for the NEES/NIS costs, Bayesian optimization can efficiently identify multiple local minima and provide uncertainty quantification on its results.

연구 동기 및 목표

• 비볼록 최적화 표면으로 인해 수동적이고 시간이 오래 소요되는 칼만 필터 튜닝 문제를 해결하기 위해.
• 기울기 기반 접근 방식에서 흔히 발생하는 국소 최소값을 피하는 자동화된 블랙박스 튜닝 방법을 개발하기 위해.
• 기준값이 있는 NEES(기준값이 있는 경우)와 기준값이 없는 NIS(기준값이 없는 경우)를 활용하여 최적화를 위한 확률적 성능 메트릭으로 활용하기 위해.
• 가우시안 프로세스 서rogate 모델링을 통해 추정된 최적 파라미터의 불확실성 정량화를 제공하기 위해.
• 선형 시스템에서의 효과성을 입증한 후 비선형 및 실제 응용 분야로 확장하기 위해.

제안 방법

• 칼만 필터 파라미터 공간을 탐색하기 위해 베이지안 최적화를 사용하며, 튜닝을 확률적 블랙박스 최적화 문제로 간주한다.
• NEES 또는 NIS 비용 함수를 파라미터 설정 전역에서 근사하기 위해 가우시안 프로세스(GP) 서rogate 모델을 활용한다.
• 탐색과 이용의 균형을 이루기 위해 할당 함수(예: 기대 개선도)를 적용하여 파라미터 공간을 샘플링한다.
• 시간 단위별 몬테카를로 시뮬레이션을 통해 NEES 또는 NIS 비용을 평가하며, 기준값 상태 또는 센서 데이터만을 사용한다.
• 비모수적 GP 모델을 사용하여 기저의 비용 표면을 학습하면서 예측의 불확실성 추정치를 유지한다.
• 기준값이 없을 경우에도 프로세스 노이즈 분산(V), 프로세스 노이즈 공분산(Q), 관측 노이즈(R)를 튜닝하기 위해 이 방법을 적용한다.

실험 결과

연구 질문

• RQ1 비볼록 비용 표면이 존재하는 상황에서 베이지안 최적화가 칼만 필터 파라미터를 효과적으로 튜닝할 수 있는가?
• RQ2 NEES 및 NIS를 확률적 목표 함수로 사용할 경우 자동 튜닝의 수렴성과 강건성에 어떤 영향을 미치는가?
• RQ3 이 방법은 다수의 국소 최소값을 식별하고 최적 파라미터 추정치의 불확실성을 정량화할 수 있는가?
• RQ4 기존 최적화 방법과 비교해 GP 기반 서rogate 모델은 수렴 속도와 해의 품질 측면에서 어떻게 다른가?
• RQ5 기준값이 알려지지 않았거나 노이즈가 많은 실제 시스템으로의 일반화 가능성은 어느 정도인가?

주요 결과

• 사례 1에서 베이지안 최적화 방법은 진짜 최적 파라미터 값(V = 1)을 성공적으로 탐색하였으며, 서rogate 모델의 최소값이 기준값과 매우 유사하게 나타났다.
• 사례 2에서는 기준값이 없이 V와 R을 동시에 튜닝한 경우, 다수의 국소 최소값을 식별하였으며, 최고의 해는 R ≈ 1.063 및 V ≈ 1.000을 도출하였다.
• GP 서rogate 모델의 불확실성 구간은 특히 V ≈ 4.5와 같은 잘못된 국소 최소값 근처에서 높은 모호성 영역을 명확히 드러냈다.
• 비용 함수가 노이즈가 많고 비볼록한 상황에서도 이 방법은 난이도 높은 탐색 전략보다 뛰어난 강건성을 보였으며, 고급 해를 효과적으로 식별하였다.
• 추정 경로와 진짜 경로의 시각적 비교에서, 다양한 국소 최소값이 놀랍게 유사한 추정 성능을 보였으며, 이는 전역 최적화와 함께 불확실성 정량화의 필요성을 강조한다.
• 할당 함수는 탐색과 이용의 균형을 효과적으로 유지하였으며, 전역 최소값 근처에 샘플이 집중되면서도 다른 잠재적 최적값의 불확실성을 줄이기 위해 다양성을 유지하였다.