[논문 리뷰] Coupling of Particle Filters

Pierre Jacob, Fredrik Lindsten외 1명|arXiv (Cornell University)|2016. 06. 03.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 13인용 수 8

한 줄 요약

이 논문은 몽테카를로 추정기의 분산을 줄이기 위해 입자 시스템 간 상관관계를 높이는 결합된 입자 필터를 소개한다. 새로운 결합된 재표본 알고리즘을 설계하고 Rhee–Glynn의 비편향 스무딩 추정기 기법을 활용하여, 병렬 처리가 가능하고 비편향인 스무딩을 가능하게 하며 정확한 오차 추정을 제공한다. 이는 기존의 표준 입자 스무딩기보다 상당한 이점이다.

ABSTRACT

Particle filters provide Monte Carlo approximations of intractable quantities such as point-wise evaluations of the likelihood in state space models. In many scenarios, the interest lies in the comparison of these quantities as some parameter or input varies. To facilitate such comparisons, we introduce and study methods to couple two particle filters in such a way that the correlation between the two underlying particle systems is increased. The motivation stems from the classic variance reduction technique of positively correlating two estimators. The key challenge in constructing such a coupling stems from the discontinuity of the resampling step of the particle filter. As our first contribution, we consider coupled resampling algorithms. Within bootstrap particle filters, they improve the precision of finite-difference estimators of the score vector and boost the performance of particle marginal Metropolis--Hastings algorithms for parameter inference. The second contribution arises from the use of these coupled resampling schemes within conditional particle filters, allowing for unbiased estimators of smoothing functionals. The result is a new smoothing strategy that operates by averaging a number of independent and unbiased estimators, which allows for 1) straightforward parallelization and 2) the construction of accurate error estimates. Neither of the above is possible with existing particle smoothers.

연구 동기 및 목표

• 입자 필터를 결합하는 체계적인 방법이 부족한 데 기인한 재표본 단계의 불연속성으로 인해, 특히 이러한 문제를 해결하고자 한다.
• 매개변수 추론에서 스코어 벡터의 유한차분 추정기의 정밀도를 향상시키고자 한다.
• 비편향 추정기와 간단한 병렬 처리가 가능한 새로운 입자 스무딩 전략을 개발하고자 한다.
• 편향이 있거나 계산 비용이 큰 대안에 의존하는 것을 줄임으로써 상태공간 모델에서 신뢰할 수 있는 추론을 가능하게 하고자 한다.

제안 방법

• 다른 매개변수를 가진 두 개의 필터에서 재표본 결정을 정렬함으로써 입자 시스템 간 상관관계를 극대화하는 결합된 재표본 알고리즘을 도입한다.
• 이러한 결합 기법을 부트스트랩 입자 필터에 적용하여 우도 및 스코어 추정기의 분산 감소를 향상시킨다.
• Rhee–Glynn 추정기를 사용하여 결합된 조건부 입자 필터에서 독립적이고 비편향인 추정기의 평균을 취해 스무딩 기능의 비편향 추정기를 구성한다.
• 최적의 운반 이론과 공통된 난수를 활용하여 재표본에 의해 유도된 비 마코프 성질을 고려하면서 입자 시스템을 결합한다.
• Rao–Blackwellization과 분산 감소 기법을 통합하여 추정기 효율성을 추가로 향상시킨다.
• 약간의 정규성 조건 하에서 방법을 검증하고, 다양한 모델에서의 강건성을 입증한다.

실험 결과

연구 질문

• RQ1 재표본의 불연속성에도 불구하고 입자 시스템 간 상관관계를 높이는 입자 필터의 결합을 어떻게 구성할 수 있는가?
• RQ2 제안된 결합된 재표본 기법이 스코어 벡터의 유한차분 추정기의 분산을 줄이는가?
• RQ3 결합된 조건부 입자 필터가 정확한 오차 추정과 함께 스무딩 기능의 비편향 추정기를 생성할 수 있는가?
• RQ4 제안된 비편향 스무딩기의 성능은 분산과 계산 비용 측면에서 표준 입자 필터와 고정지연 스무딩기와 비교해 어떻게 되는가?
• RQ5 Rao–Blackwellization과 중앙값 기반 만남 시간 선택과 같은 분산 감소 기법이 추정기 효율성에 어떤 영향을 미치는가?

주요 결과

• 결합된 재표본 기법은 스코어 벡터의 유한차분 추정기의 정밀도를 크게 향상시키며, 입자 마진형 메트로폴리스–해스팅스 알고리즘의 성능을 향상시킨다.
• Rhee–Glynn 기반의 스무딩기로는 $ N = 4,096 $ 개의 입자를 사용하는 표준 입자 필터와 유사한 상대적 분산을 달성하지만, 비편향이라는 점에서 뛰어나다.
• 이 방법은 간단한 병렬 처리를 가능하게 하며 정확한 몽테카를로 오차 추정을 제공한다. 이는 기존의 입자 스무딩기에서는 실현 불가능한 기능이다.
• Rao–Blackwellization과 중앙값 기반 만남 시간 선택을 적용함으로써 평균 만남 시간이 4.7에서 5.1로 증가하여 추정기 효율성이 향상된다.
• 조류-플랑크톤 모델의 경우, Rao–Blackwellization과 분산 감소 기법을 적용한 비편향 추정기는 높은 정확도를 보인다.
• 비편향 방법의 계산 비용은 표준 입자 필터의 약 10배이지만, 과도하게 확신하는 오차 막대를 피하고 추론의 신뢰성을 높인다.