[논문 리뷰] Stein particle filtering

Jiaojiao Fan, Amirhossein Taghvaei외 1명|arXiv (Cornell University)|2021. 06. 19.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 23인용 수 4

한 줄 요약

이 논문은 입자 가중치를 업데이트하지 않고 입자 위치만 업데이트함으로써 입자 분산을 방지하는 슈바르츠 변분 경사하강법(Stein variational gradient descent, SVGD) 기반의 새로운 입자 필터링 프레임워크를 제안한다. 이로 인해 모든 입자가 균일한 가중치를 유지하게 되며, 비선형성과 고차원 문제에서 표준 입자 필터보다 뛰어난 성능을 발휘한다. 또한 측정치를 재사용하는 슬라이딩 윈도우 확장 기법을 통해 안정성을 향상시켜 강인성도 향상시킨다.

ABSTRACT

We present a new particle filtering algorithm for nonlinear systems in the discrete-time setting. Our algorithm is based on the Stein variational gradient descent (SVGD) framework, which is a general approach to sample from a target distribution. We merge the standard two-step paradigm in particle filtering into one step so that SVGD can be used. A distinguishing feature of the proposed algorithm is that, unlike most particle filtering methods, all the particles at any time step are equally weighted and thus no update on the weights is needed. We further extended our algorithm to allow for updating previous particles within a sliding window. This strategy may improve the reliability of the algorithm with respect to unexpected disturbance in the dynamics or outlier-measurements. The efficacy of the proposed algorithms is illustrated through several numerical examples in comparison with a standard particle filtering method.

연구 동기 및 목표

• 기존 입자 필터링에서 시간이 지남에 따라 대부분의 입자가 가중치를 상실하는 입자 분산 문제를 해결하기 위해.
• 반복 과정 전반에 걸쳐 균일한 가중치를 유지하는 입자 필터링 방법을 개발하여 유효 표본 수를 보존하기 위해.
• 스테인 변분 경사하강법(SVGD) 프레임워크를 활용해 사후 분포에서 결정론적이고 비마르코프 성질을 가진 샘플링을 수행하기 위해.
• 측정치를 재사용하는 슬라이딩 윈도우 메커니즘을 통해 모델 오차나 이방성 측정치에 대한 강인성을 향상시키기 위해.
• 표준 입자 필터보다 비선형성과 고차원 환경에서 더 뛰어난 성능을 보여주도록 하기 위해.

제안 방법

• 표준 입자 필터링의 두 단계 과정(중요도 샘플링 + 재표본화)을 대체하여, 사후 분포를 직접 근사하기 위해 입자 위치를 직접 업데이트하는 단일 단계의 SVGD 업데이트를 도입한다.
• 현재 입자와 다음 관측치를 기반으로 정규화 상수 없이 사후 분포를 유도하여 SVGD의 대상으로 삼는다.
• 모든 입자를 동시에 커널 기반의 기울기 흐름을 통해 SVGD로 업데이트함으로써 균일한 가중치를 유지하고 재표본화를 피한다.
• 슬라이딩 윈도우 확장 기법을 도입하여, 고정된 시간 단계 윈도우 내에서 사후 분포를 근사함으로써 각 측정치가 다수의 사후 업데이트에 기여하도록 한다.
• 슬라이딩 윈도우 방식은 각 측정치의 영향을 다수의 시간 단계에 걸쳐 분산시켜, 이상치나 오류에 대한 민감도를 낮추어 강인성을 향상시킨다.
• 입자 위치는 사후 분포의 스코어 함수를 기반으로 한 SVGD 업데이트 규칙에 따라 반복적으로 업데이트된다.

실험 결과

연구 질문

• RQ1 입자 가중치 업데이트가 필요 없도록 하여 입자 분산을 방지할 수 있는 입자 필터링 프레임워크를 설계할 수 있는가?
• RQ2 SIR와 같은 표준 입자 필터와 비교했을 때, 스테인 기반 입자 필터의 성능은 비선형성과 고차원 시스템에서 어떻게 되는가?
• RQ3 여러 시간 단계에 걸쳐 사후 분포를 재계산하는 슬라이딩 윈도우 방식이 측정 노이즈나 모델 오차에 대한 강인성을 향상시키는가?
• RQ4 윈도우 크기가 필터링 알고리즘의 정확도와 계산 비용에 어떤 영향을 미치는가?
• RQ5 어떤 조건(예: 높은 상태 노이즈, 낮은 측정 노이즈)에서 제안된 방법이 기존 입자 필터보다 뛰어나게 성능을 발휘하는가?

주요 결과

• 선형 가우시안 및 벤스 필터링 예제에서, 제안된 스테인 입자 필터링 방법은 SIR 입자 필터보다 사후 평균과 공분산 추정에서 더 낮은 평균 제곱오차(m.s.e.)를 달성한다.
• 선형 가우시안 케이스에서는 윈도우 크기 T=1이 T=3보다 略적으로 더 높은 정확도를 보였는데, 이는 입자 공간의 차원 수가 낮기 때문일 것이다.
• 벤스 필터링 문제에서는 T=3인 슬라이딩 윈도우 버전이 T=1 버전과 SIR 필터를 모두 능가했으며, 시간에 걸쳐 측정치를 재사용함으로써의 이점이 입증되었다.
• 측정치의 영향을 다수의 시간 단계에 걸쳐 분산시킴으로써 슬라이딩 윈도우 방식은 이상치나 외부 간섭에 대한 강인성을 향상시켰다.
• 반복적인 SVGD 업데이트로 인해 SIR보다 계산 비용이 더 높지만, 높은 노이즈 동역학과 낮은 노이즈 측정 환경에서는 더 나은 성능을 발휘한다.
• 경험적으로, 상태 동역학이 매우 랜덤하고 측정 노이즈가 상대적으로 낮을 경우에 이 방법이 가장 잘 작동하며, 이는 대부분의 표준 입자 필터가 어려움을 겪는 조건이다.