[논문 리뷰] Kalman Filter, Sensor Fusion, and Constrained Regression: Equivalences and Insights

Maria Jahja, David Farrow외 2명|arXiv (Cornell University)|2019. 05. 27.

Gaussian Processes and Bayesian Inference참고 문헌 16인용 수 10

한 줄 요약

이 논문은 무한한 과정 노이즈를 가진 센서 융합를 통해 칼만 필터와 제약 조건이 있는 회귀 모델 간의 등가성을 확립함으로써, 다이나믹 시스템에서 모델 선택에 라소 정규화와 같은 회귀 기법을 적용할 수 있도록 한다. 주요 기여는 칼만 필터링을 제약 조건이 있는 회귀 문제로 재구성함으로써, 인플루엔자 즉시예측과 같은 애플리케이션에서 센서 및 과정 모델 선택이 가능하게 한다.

ABSTRACT

The Kalman filter (KF) is one of the most widely used tools for data assimilation and sequential estimation. In this work, we show that the state estimates from the KF in a standard linear dynamical system setting are equivalent to those given by the KF in a transformed system, with infinite process noise (i.e., a "flat prior") and an augmented measurement space. This reformulation -- which we refer to as augmented measurement sensor fusion (SF) -- is conceptually interesting, because the transformed system here is seemingly static (as there is effectively no process model), but we can still capture the state dynamics inherent to the KF by folding the process model into the measurement space. Further, this reformulation of the KF turns out to be useful in settings in which past states are observed eventually (at some lag). Here, when the measurement noise covariance is estimated by the empirical covariance, we show that the state predictions from SF are equivalent to those from a regression of past states on past measurements, subject to particular linear constraints (reflecting the relationships encoded in the measurement map). This allows us to port standard ideas (say, regularization methods) in regression over to dynamical systems. For example, we can posit multiple candidate process models, fold all of them into the measurement model, transform to the regression perspective, and apply $\ell_1$ penalization to perform process model selection. We give various empirical demonstrations, and focus on an application to nowcasting the weekly incidence of influenza in the US.

연구 동기 및 목표

• 무한한 과정 노이즈와 확장된 측정값을 가진 센서 융합 프레임워크와 칼만 필터링 간의 이론적 등가성을 확립하기 위해.
• 과거 상태가 지연되어 관측될 경우 칼만 필터링을 제약 조건이 있는 회귀 문제로 재구성함으로써, 다이나믹 시스템에 회귀 도구를 적용할 수 있도록 하기 위해.
• 라소 및 기울기 부스팅과 같은 정규화 기법을 사용하여 센서 및 과정 모델 선택을 위한 실용적 방법을 개발하기 위해.
• 제안된 재구성의 실용성을 실제 응용, 특히 미국의 주간 인플루엔자 유병률 예측에 응용하여 입증하기 위해.
• 칼만 필터링, 센서 융합, 제약 조건이 있는 회귀를 통합하는 통합 프레임워크를 제공함으로써 새로운 통찰력과 계산 도구를 제공하기 위해.

제안 방법

• 표준 칼만 필터를 무한한 과정 노이즈(평탄한 사전 분포)를 가진 센서 융합 문제로 재구성함으로써, 동적 시스템을 확장된 측정 공간을 가진 정적 추정 문제로 변환하기 위해.
• 측정 매핑에서 유도된 선형 제약 조건 하에 과거 측정값에 대해 과거 상태를 회귀함으로써, 상태 예측이 이루어지는 등가의 제약 조건이 있는 회귀 모델을 유도하기 위해.
• 후보 과정 모델의 계수를 페널티 처리함으로써 라소 정규화를 회귀 계수에 적용하여 센서 선택 및 과정 모델 선택을 수행하기 위해.
• 기울기 부스팅을 사용하여 센서 함수를 반복적으로 학습하고 상태 추정치를 업데이트함으로써, 비볼록이지만 해석 가능한 프레임워크 내에서 센서와 상태 융합을 공동으로 학습하기 위해.
• 측정 노이즈 공분산을 경험적으로 추정함으로써, 회귀 기반 칼만 필터 근사화를 가능하게 하기 위해.
• 예측 모델을 플루 프록시로 하는 센서로 사용하고, 제약 조건이 있는 회귀 접근법을 통해 이를 융합함으로써, 프레임워크를 플루 즉시예측 응용에 구현하기 위해.

실험 결과

연구 질문

• RQ1 과거 상태가 지연되어 관측될 경우, 칼만 필터의 상태 추정치가 제약 조건이 있는 회귀 문제로 등가로 표현될 수 있는가?
• RQ2 라소와 같은 정규화 기법을 회귀 모델에 적용하여 다이나믹 시스템에서 센서 및 과정 모델 선택을 어떻게 수행할 수 있는가?
• RQ3 제안된 센서 융합 및 회귀 기반 칼만 필터의 실세계 즉시예측 작업(예: 주간 인플루엔자 유병률 예측)에서의 성능은 어떠한가?
• RQ4 기울기 부스팅은 비볼록 최적화 프레임워크 내에서 센서 함수를 반복적으로 학습하고 상태 추정을 향상시키는 데 효과적으로 사용될 수 있는가?
• RQ5 무한한 과정 노이즈를 가진 센서 융합과 칼만 필터링 간의 등가성은 순차적 추정에서 개념적 및 계산적 이점을 어떻게 제공하는가?

주요 결과

• 칼만 필터의 상태 추정치는 무한한 과정 노이즈와 확장된 측정 공간을 가진 센서 융합 프레임워크와 수학적으로 등가이다.
• 과거 상태가 지연되어 관측될 경우, 칼만 필터의 예측치는 측정 모델에서 유도된 제약 조건 하에 과거 측정값에 대해 과거 상태를 회귀한 제약 조건이 있는 회귀 문제와 등가이다.
• 라소 정규화를 회귀 모델에 적용함으로써, 플루 즉시예측 응용에서 확인된 바와 같이 효과적인 센서 및 과정 모델 선택이 가능해진다.
• 제약 조건이 있는 회귀 모델은 여러 후보 과정 모델을 측정 공간에 통합할 수 있게 하며, 라소 페널티를 통해 가장 관련성이 높은 모델들을 선별한다.
• 기울기 부스팅 기반의 반복적 센서 학습 및 상태 추정은 표준 선형 센서 융합을 초월하여, 플루 즉시예측 과제에서 뛰어난 예측 성능을 보였다.
• 경험적 결과는 제안된 프레임워크가 명시적 센서 선택 없이도 예측 목적에 있어 우수한 성능을 보이며, 다이나믹 시스템에서의 모델 선택 및 학습에 대해 매우 탄력적인 기반을 제공한다는 것을 보여준다.