[논문 리뷰] Optimization or Architecture: How to Hack Kalman Filtering

Ido Greenberg, Netanel Yannay외 1명|arXiv (Cornell University)|2023. 10. 01.

Target Tracking and Data Fusion in Sensor Networks인용 수 4

한 줄 요약

이 논문은 기존의 전통적 노이즈 추정에 의존하는 대신, 지도 학습을 통해 과정 노이즈 및 측정 노이즈 파라미터를 직접 최적화함으로써 표준 칼만 필터링을 향상시키는 최적화된 칼만 필터(Optimized Kalman Filter, OKF)를 제안한다. OKF는 다양한 벤치마크에서 표준 KF와 신경망 기반 칼만 필터보다 뛰어난 성능을 보이며, 비선형 모델의 이점이 일반적으로 잘못된 실험적 배경에서 KF가 공정하게 최적화되지 않은 데 기인한다는 것을 입증한다.

ABSTRACT

In non-linear filtering, it is traditional to compare non-linear architectures such as neural networks to the standard linear Kalman Filter (KF). We observe that this mixes the evaluation of two separate components: the non-linear architecture, and the parameters optimization method. In particular, the non-linear model is often optimized, whereas the reference KF model is not. We argue that both should be optimized similarly, and to that end present the Optimized KF (OKF). We demonstrate that the KF may become competitive to neural models - if optimized using OKF. This implies that experimental conclusions of certain previous studies were derived from a flawed process. The advantage of OKF over the standard KF is further studied theoretically and empirically, in a variety of problems. Conveniently, OKF can replace the KF in real-world systems by merely updating the parameters.

연구 동기 및 목표

• 비선형 모델(예: 신경망)과 표준 칼만 필터(KF) 간의 비공정한 비교 문제를 해결하기 위해, KF는 일반적으로 최적화되지 않은 채로 비선형 모델과 비교되는 경우를 다루기 위함.
• i.i.d. 가우시안 노이즈 가정이 위반될 경우 표준 KF의 성능이 최적화되지 않음을 입증하여, 노이즈 추정이 MSE 최적화의 타당한 대체 수단이 되지 못함을 보여주기 위함.
• 비선형 모델과 동일한 지도 학습 프로세스를 사용해 KF를 최적화함으로써 더 공정한 벤치마킹 방법론을 제안하기 위함.
• 적절히 최적화된 KF가 실제 필터링 작업에서 신경망 기반 칼만 필터를 능가할 수 있음을 보여주어, 비선형 아키텍처의 필수성에 대한 일반적인 인식을 도전하기 위함.

제안 방법

• 선형 KF 아키텍처를 유지하면서 전통적 노이즈 추정을 제거하고, 과정(Q) 및 측정(R) 노이즈 파라미터를 종단 간 지도 학습을 통해 최적화하는 최적화된 칼만 필터(OKF)를 제안한다.
• 예측된 상태와 진짜 상태 간의 평균 제곱오차(MSE) 손실을 사용하여, 관측치와 진짜 상태가 포함된 레이블이 부여된 훈련 데이터를 기반으로 OKF를 훈련시킨다.
• 비선형 모델 기반 칼만 필터(NKF 등)에 사용된 동일한 최적화 절차를 표준 KF에도 적용하여 선형 모델과 비선형 모델 간의 공정한 비교를 확보한다.
• 오직 노이즈 파라미터만 업데이트함으로써 표준 KF의 즉각적인 교체로 OKF를 구현함으로써, 실제 시스템에 쉽게 통합할 수 있도록 한다.
• 분포 이탈과 다양한 데이터 크기 조건 하에서 성능을 평가하기 위해 합성 및 실제 데이터 세트(예: 도플러 레이더 및 운동 추적 작업 포함)를 사용한다.
• MSE 및 음의 로그우도(Negative Log-Likelihood, NLL)와 같은 지표를 사용하여 OKF를 표준 KF, 신경 KF(NKF), aKF 및 NKFH 등의 변종과 비교한다.

Figure 1 : Since the KF assumptions are often violated, noise estimation does not optimize the MSE. Instead, our method (OKF) optimizes the MSE directly. In particular, neural network models should be tested against OKF rather than the non-optimized KF – in contrast to the common practice in the lit

실험 결과

연구 질문

• RQ1 모델링 가정이 위반될 경우(예: i.i.d. 가우시안 노이즈 가정 위반), 전통적 방법으로 노이즈 파라미터를 추정할 때 표준 칼만 필터의 성능이 떨어지는가?
• RQ2 비선형 신경망 기반 칼만 필터와 동일한 지도 학습 최적화 목표를 사용해 훈련된 선형 칼만 필터가 비선형 모델을 능가할 수 있는가?
• RQ3 비선형 필터링 상황에서 노이즈 추정이 MSE 최적화의 타당한 대체 수단으로 얼마나 유용한가?
• RQ4 분포 이탈 조건 하에서, 지도 학습을 통한 최적화와 전통적 추정 방식 간에 KF의 성능은 어떻게 달라지는가?
• RQ5 이전 연구에서 비선형 모델의 우월성을 주장한 바가 있었지만, 그 배경에 KF가 최적화되지 않은 비공정한 비교가 포함된 경우의 함의는 무엇인가?

주요 결과

• OKF는 자유 운동 및 일정 가속도 시나리오를 포함한 모든 평가 벤치마크에서 표준 KF를 능가하여, 표준 KF의 튜닝이 최적화되지 않았음을 입증한다.
• 자유 운동 벤치마크에서 OKF는 가장 낮은 MSE와 NLL를 기록하며, 더 복잡한 NKF 및 NKFH 모델조차도 높은 NLL와 불안정성으로 인해 OKF에 뒤지게 된다.
• Const_a 벤치마크에서는 OKF가 MSE에서 NKFH를 제외한 모든 모델보다 뛰어나지만, NKFH는 극도로 높은 NLL를 기록하여 확률적 교정이 열악함을 시사한다.
• 노이즈 추정을 사용할 경우, 더 많은 데이터가 주어질수록 표준 KF의 성능이 악화되며, 이는 더 많은 데이터가 항상 추정을 향상시킨다는 가정과 모순된다.
• 오라클 노이즈 추정 조건 하에서도 MSE 최적화를 신뢰성 있게 달성할 수 없어, 노이즈 추정과 MSE 최소화 간의 근본적 불일치를 드러낸다.
• 이 연구는 이전 연구에서 비선형 모델의 우월성을 주장한 결론 대부분이, KF가 최적화되지 않은 비공정한 비교에 기반한 경우가 많다는 점을 드러낸다.

Figure 2 : The KF algorithm. The prediction step is based on the motion model $\tilde{F}_{t}$ with noise $\hat{Q}$ , whereas the update step is based on the observation model $\tilde{H}_{t}$ with noise $\hat{R}$ .