[논문 리뷰] The Alive Particle Filter

Ajay Jasra, Anthony Lee외 2명|arXiv (Cornell University)|2013. 03. 31.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 12인용 수 14

한 줄 요약

이 논문은 HMM의 ABC 근사 및 희귀사건 문제에서 흔히 나타나는 지표 잠재변수를 가진 파인먼-카크 모델을 위한 새로운 알고리즘인 Alive Particle Filter를 소개한다. 이 알고리즘은 고정된 수의 입자가 '생존'(즉, 목표 집합 내에 존재)할 때까지 입자를 재표본화함으로써 붕괴를 방지한다. 이 방법은 정규화 상수의 비편향 추정을 보장하며, 시간에 관계없이 Lp 경계와 중심극한정리가 성립하여, 랜덤한 단계당 계산 비용이 존재하더라도 강력한 입자 MCMC 추론을 가능하게 한다.

ABSTRACT

In the following article we develop a particle filter for approximating Feynman-Kac models with indicator potentials. Examples of such models include approximate Bayesian computation (ABC) posteriors associated with hidden Markov models (HMMs) or rare-event problems. Such models require the use of advanced particle filter or Markov chain Monte Carlo (MCMC) algorithms e.g. Jasra et al. (2012), to perform estimation. One of the drawbacks of existing particle filters, is that they may 'collapse', in that the algorithm may terminate early, due to the indicator potentials. In this article, using a special case of the locally adaptive particle filter in Lee et al. (2013), which is closely related to Le Gland & Oudjane (2004), we use an algorithm which can deal with this latter problem, whilst introducing a random cost per-time step. This algorithm is investigated from a theoretical perspective and several results are given which help to validate the algorithms and to provide guidelines for their implementation. In addition, we show how this algorithm can be used within MCMC, using particle MCMC (Andrieu et al. 2010). Numerical examples are presented for ABC approximations of HMMs.

연구 동기 및 목표

• 파인먼-카크 모델에서 지표 잠재변수를 다룰 때 표준 입자 필터에서 발생하는 붕괴 문제를 해결하기 위해.
• 각 시간 단계에서 고정된 수의 입자가 '생존'(즉, 목표 집합 내에 존재)하도록 보장하는 입자 필터를 개발하기 위해.
• 지표 잠재변수의 맥락에서 새로운 알고리즘에 대해 시간에 관계없이 Lp 경계, 중심극한정리 및 비편향성과 같은 이론적 보장을 수립하기 위해.
• 특히 HMM의 ABC 근사에 대해 정규화 상수의 비편향 추정을 보장함으로써 신뢰할 수 있는 입자 MCMC 추론을 가능하게 하기 위해.
• 입자 수가 O(n)일 때 상대 분산 성장에 대한 이론적 분석을 통해 구현 지침을 제공하기 위해.

제안 방법

• 알고리즘은 Markov 커널을 사용해 입자를 순차적으로 생성하며, 정확히 N개의 입자가 목표 집합 Bn 내에 들어올 때까지 반복함으로써 붕괴를 방지한다.
• 정규화된 이항분포 샘플링 메커니즘을 사용해 N개의 생존 입자를 확보하기 위해 필요한 재표본 수의 랜덤 수를 모델링한다.
• 제시된 동역학 하에서, 입자 필터 추정치 ηnTn(φ)가 파인먼-카크 마진널 ηn(φ)에 대해 비편향임을 입증한다.
• 전체 기대의 법칙을 사용해 조건부 기대를 유도하며, 생존 입자와 사망 입자의 비율에 따라 가중치를 조정한다.
• 이론적 분석은 Neuts & Zacks(1967)와 Zacks(1980)의 음이이항분포 랜덤 변수 비율 기대값에 관한 결과를 활용한다.
• 입자 MCMC(PMCMC) 프레임워크 내에 통합되어, ABC-HMM에서 정적 매개변수 추론을 가능하게 한다.

실험 결과

연구 질문

• RQ1 파인먼-카크 모델에서 지표 잠재변수를 사용할 때 붕괴를 방지할 수 있는 입자 필터를 설계할 수 있는가?
• RQ2 제안된 알고리즘이 정규화 상수 γn(φ)의 비편향 추정을 유지하는가?
• RQ3 이 새로운 재표본화 방식 하에서 입자 필터 추정치의 시간에 관계없이 Lp 수렴 성질은 어떠한가?
• RQ4 입자 수 N = O(n)일 때, 추정치 γn(φ)의 상대 분산은 시간 n에 따라 어떻게 성장하는가?
• RQ5 입자 MCMC 기반 알고리즘으로서 ABC-HMM에서의 베이지안 추론에 성공적으로 통합될 수 있는가?

주요 결과

• 입자 필터 추정치 ηnTn(φ)는 파인먼-카크 마진널 ηn(φ)에 대해 비편향임이 입증되었으며, 이는 유효한 MCMC 추론을 위해 필수적인 성질이다.
• 입자 필터 추정치 ηn(φ)에 대해 시간에 관계없이 Lp 경계가 확립되어 시간에 따라 안정성이 보장된다.
• 적절히 정규화하고 중심화한 입자 필터 추정치에 대해 중심극한정리가 증명되었으며, 점근 정규성의 타당성을 입증한다.
• 입자 수 N = O(n)일 때, 추정치 γn(φ)의 상대 분산은 시간 n에 대해 선형적으로 성장함을 보여, 오차 성장이 통제됨을 시사한다.
• 이 알고리즘은 Lee 등(2013)의 국소 적응형 입자 필터의 특수한 경우이며, 특히 γn(φ) 추정치의 비편향성과 같은 이론적 보장이 Le Gland & Oudjane(2006)에선 확보되어 있지 않다.
• 정규화 상수의 비편향 추정을 보장함으로써, 이 방법은 마진널 우도 추정에 필수적인 유효한 사후 시뮬레이션을 가능하게 하여 강력한 입자 MCMC 추론을 가능하게 한다.