[논문 리뷰] Wasserstein Distributionally Robust Kalman Filtering

Soroosh Shafieezadeh-Abadeh, Viet Anh Nguyen외 2명|arXiv (Cornell University)|2018. 09. 24.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 26인용 수 31

한 줄 요약

이 논문은 정규 분포의 비볼록 워샤프스키 애매함 집합 위에서 강건한 추정 문제를 해결함으로써 모델 리스크를 헤지하는 워샤프스키 분포로 강건한 칼만 필터를 제안한다. 비볼록성에도 불구하고 문제는 해석 가능한 볼록 프로그램으로 재구성되며, 준폐쇄형 하위문제를 갖는 효율적인 프랭크-울프 알고리즘이 개발되어 순차적 추정 설정에서 표준 및 정적 강건 접근 방식을 능가하는 필터를 제공한다.

ABSTRACT

We study a distributionally robust mean square error estimation problem over a nonconvex Wasserstein ambiguity set containing only normal distributions. We show that the optimal estimator and the least favorable distribution form a Nash equilibrium. Despite the non-convex nature of the ambiguity set, we prove that the estimation problem is equivalent to a tractable convex program. We further devise a Frank-Wolfe algorithm for this convex program whose direction-searching subproblem can be solved in a quasi-closed form. Using these ingredients, we introduce a distributionally robust Kalman filter that hedges against model risk.

연구 동기 및 목표

• 명시적 상태공간 모델에 대한 불확실성으로 인한 모델 리스크를 완화하는 강건한 칼만 필터를 개발하는 것.
• 기존의 강건 필터들이 너무 보수적이거나 작은 모델 불확실성 하에서 실패하는 한계를 해결하는 것.
• 워샤프스키 거리로 명시적 가우시안 분포 중심의 더 통계적으로 강건한 애매함 집합을 정의하는 것.
• 워샤프스키 애매함 집합의 비볼록성에도 불구하고 강건한 추정 문제를 해석 가능한 볼록 프로그램으로 공식화하는 것.
• 실시간 순차적 추정에 적합한 온라인 환경에서 증명 가능하게 수렴하는 1차 알고리즘(프랭크-울프)을 설계하는 것.

제안 방법

• 다변량 정규 분포만 포함하는 워샤프스키 애매함 집합 위에서 분포로 강건한 평균 제곱오차 추정 문제를 공식화한다.
• 최적의 추정기와 가장 불리한 분포가 내쉬 균형을 이룬다는 것을 증명하여 게임 이론적 해석이 가능하게 한다.
• 분포로 강건한 최적화에서의 고급 재구성 기법을 사용하여 비볼록 문제를 등가의 볼록 프로그램으로 재구성한다.
• 방향 찾기 하위문제가 준폐쇄형 해를 갖는 프랭크-울프 알고리즘을 개발하여 효율적인 계산을 가능하게 한다.
• 알고리즘을 순차적으로 적용하여 온라인 필터링 문제를 해결하며, 시간 단계 간에 강건성을 유지한다.
• 애매함 집합을 정의하기 위해 타입-2 워샤프스키 거리를 사용하여 통계적 강건성과 분포 이탈 상황에서의 향상된 성능을 확보한다.

실험 결과

연구 질문

• RQ1 공통 상태-출력 분포의 불확실성을 포괄하는 워샤프스키 애매함 집합을 사용하여 분포로 강건한 칼만 필터를 구성할 수 있는가?
• RQ2 정규 분포의 워샤프스키 애매함 집합의 비볼록성은 해석 가능한 해결을 방해하는가, 아니면 볼록 프로그램으로 재구성할 수 있는가?
• RQ3 결과로 도출된 강건한 추정 문제는 실시간 필터링에 적합한 순차적 방식으로 효율적으로 해결될 수 있는가?
• RQ4 모델 불확실성 하에서 제안된 필터의 성능은 고전적 및 정적 강건 필터보다 어떻게 다른가?
• RQ5 제안된 프랭크-울프 알고리즘의 수렴 행동과 계산 효율성은 어떠한가?

주요 결과

• 비볼록 워샤프스키 애매함 집합 위에서의 분포로 강건한 추정 문제는 비볼록성에도 불구하고 해석 가능한 볼록 프로그램과 동치이며, 이로 인해 효율적인 해법이 가능해진다.
• 최적의 추정기는 관측값에 대한 애파인 함수이므로, 고전적 칼만 필터링의 구조를 유지하면서도 강건성을 향상시킨다.
• 볼록 프로그램을 위한 프랭크-울프 알고리즘은 곡률 상수가 $ \frac{2\bar{\sigma}^4}{\underline{\sigma}^3} $ 로 유계이므로 안정적인 수렴을 보장한다.
• 수치 결과는 순차적 강건 필터링 접근이 정적 추정 공식화보다 뛰어나며, 추정 오차에서 13 dB 향상(100번째 시점에서 24.5 dB 대비 37.5 dB)을 보였다.
• 정적 접근에서는 워샤프스키 반경을 최적화할 경우, 최적 반경이 t ≥ 5에서 0으로 수렴함으로써 불확실성 전파가 전역적 강건성에 악영향을 미쳐 강건화가 효과가 없음을 보였다.
• 제안된 필터는 시간 단계 간의 불확실성 전파를 효과적으로 제한하여 각 순차 단계에서 강건화가 유의미하게 기여함을 보였다.