[논문 리뷰] Nested particle filters for online parameter estimation in discrete-time state-space Markov models

Dan Crisan, Joaquı́n Mı́guez|arXiv (Cornell University)|2013. 08. 08.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 33인용 수 19

한 줄 요약

이 논문은 이산 시간 상태공간 마르코프 모델에서 온라인 베이지안 매개변수 추정을 위한 재귀적 네스티드 입자 필터를 제안한다. 두 수준의 입자 필터를 사용하여 상태와 정적 매개변수를 동시에 추적한다. 이 방법은 사후 분포 하의 적분에 대해 $L_p$ 수렴 속도 $\frac{1}{\sqrt{N}} + \frac{1}{\sqrt{M}}$ 를 달성하며, 시간에 따라 일정한 계산 복잡도를 유지한다.

ABSTRACT

We address the problem of approximating the posterior probability distribution of the fixed parameters of a state-space dynamical system using a sequential Monte Carlo method. The proposed approach relies on a nested structure that employs two layers of particle filters to approximate the posterior probability measure of the static parameters and the dynamic state variables of the system of interest, in a vein similar to the recent "sequential Monte Carlo square" (SMC$^2$) algorithm. However, unlike the SMC$^2$ scheme, the proposed technique operates in a purely recursive manner. In particular, the computational complexity of the recursive steps of the method introduced herein is constant over time. We analyse the approximation of integrals of real bounded functions with respect to the posterior distribution of the system parameters computed via the proposed scheme. As a result, we prove, under regularity assumptions, that the approximation errors vanish asymptotically in $L_p$ ($p \ge 1$) with convergence rate proportional to $\frac{1}{\sqrt{N}} + \frac{1}{\sqrt{M}}$, where $N$ is the number of Monte Carlo samples in the parameter space and $N imes M$ is the number of samples in the state space. This result also holds for the approximation of the joint posterior distribution of the parameters and the state variables. We discuss the relationship between the SMC$^2$ algorithm and the new recursive method and present a simple example in order to illustrate some of the theoretical findings with computer simulations.

연구 동기 및 목표

• 비선형적이고 비정규적인 상태공간 모델에서 해석적 해가 불가능한 상황에서 정적 매개변수의 온라인 베이지안 추정 문제를 해결한다.
• 오프라인 또는 배치 매개변수 추정의 계산 부담을 피하는 재귀적 순차 몬테카를로 방법을 개발한다.
• 이전의 SMC² 방법들과 달리, 알고리즘이 시간에 따라 일정한 계산 복잡도를 유지함을 보장한다.
• 정규성 조건 하에서 매개변수와 상태의 사후 근사의 수렴에 이론적 보장을 제공한다.
• 매개변수와 상태의 사후 분포에 대한 유계 함수의 적분에 대한 오차 한계를 설정한다.

제안 방법

• 동적 상태 변수와 정적 매개변수를 각각 위한 두 수준의 입자 필터를 사용하는 네스티드 입자 필터 아키텍처를 적용하여 계층적 구조를 형성한다.
• 순차 몬테카를로(SMC)를 사용하여 공동 필터링 접근 방식을 통해 매개변수와 상태의 사후 분포를 재귀적으로 갱신한다.
• 입자 분해를 방지하기 위해 매개변수 공간에서의 안정성을 확보하기 위해 조정된 커널 메커니즘을 도입한다.
• 매개변수 필터를 상태 필터의 출력을 기반으로 업데이트하는 재귀적 업데이트 방식을 적용하여 온라인 적응을 가능하게 한다.
• 통제된 분산을 가진 커널 기반의 흔들림 전략을 사용하여 매개변수 입자 집합의 다양성을 유지한다.
• 매개변수의 사후 기대값에 대한 $L_p$ 근사 오차에 대한 이론적 한계를 유도하여, $N$과 $M$이 각각 매개변수 공간과 상태 공간의 입자 수일 때 $\frac{1}{\sqrt{N}} + \frac{1}{\sqrt{M}}$ 비례하는 수렴을 보여준다.

실험 결과

연구 질문

• RQ1 비선형적이고 비정규적인 상태공간 모델에서 정적 매개변수와 동적 상태를 동시에 추정할 수 있는 재귀적 온라인 입자 필터링 방법을 설계할 수 있는가?
• RQ2 제안된 네스티드 입자 필터는 이전의 SMC² 방법들과 달리 시간에 따라 일정한 계산 복잡도를 유지하는가?
• RQ3 매개변수와 상태의 공동 사후 분포 하에서 유계 함수의 적분에 대한 사후 근사의 이론적 수렴 속도는 무엇인가?
• RQ4 근사 오차 한계는 매개변수 공간과 상태 공간의 입자 수에 어떻게 의존하는가?
• RQ5 기본적인 정규성 가정 하에서, 이 방법이 $p \geq 1$ 에 대해 $L_p$ 수렴을 보일 수 있는가?

주요 결과

• 제안된 네스티드 입자 필터는 유계 함수의 적분에 대해 $L_p$ 수렴을 달성하며, 수렴 속도는 $\frac{1}{\sqrt{N}} + \frac{1}{\sqrt{M}}$ 이다. 여기서 $N$은 매개변수 입자 수이고 $M$은 상태 입자 수이다.
• 정규성 조건 하에서 매개변수와 상태의 공동 사후 분포 근사 오차 역시 동일한 속도로 수렴한다.
• 재귀적 알고리즘은 시간에 따라 일정한 계산 복잡도를 유지한다. 이는 이전의 SMC² 방법들과는 달리 시간이 지남에 따라 복잡도가 증가하는 것과 대비된다.
• 이론적 분석을 통해, 컴acts 및 리프시츠 정규성 가정 하에서 오차 한계가 시간에 대해 균일하고 시간 단계 수와 독립적임을 증명하였다.
• 통제된 분산을 가진 조정된 커널을 사용함으로써 입자 다양성이 보장되고 분해가 방지되어 안정적인 장기 추정이 가능하다.
• 수치 시뮬레이션은 이론적 수렴 속도를 확인하고 단순한 상태공간 모델에서 이 방법의 효과성을 입증한다.