[논문 리뷰] Particle Gibbs with Ancestor Sampling

Fredrik Lindsten, Michael I. Jordan외 1명|arXiv (Cornell University)|2014. 01. 03.

Bayesian Methods and Mixture Models참고 문헌 31인용 수 122

한 줄 요약

이 논문은 상태공간 모델에서 혼합을 향상시키기 위해 후방 시뮬레이션 대신 단일 전방 조상 샘플링 단계를 사용하는 새로운 입자 마르코프 체인 몬테카를로 알고리즘인 입자 깁스와 조상 샘플링(PGAS)을 소개한다. PGAS는 적은 수의 입자를 사용할 때조차도 빠른 혼합을 달성하며, 비마르코프 및 복잡한 확률 모델에서 효율적인 추론을 가능하게 하여 기존의 PGBS와 비교해 정확도와 강건성에서 뛰어나다.

ABSTRACT

Particle Markov chain Monte Carlo (PMCMC) is a systematic way of combining the two main tools used for Monte Carlo statistical inference: sequential Monte Carlo (SMC) and Markov chain Monte Carlo (MCMC). We present a novel PMCMC algorithm that we refer to as particle Gibbs with ancestor sampling (PGAS). PGAS provides the data analyst with an off-the-shelf class of Markov kernels that can be used to simulate the typically high-dimensional and highly autocorrelated state trajectory in a state-space model. The ancestor sampling procedure enables fast mixing of the PGAS kernel even when using seemingly few particles in the underlying SMC sampler. This is important as it can significantly reduce the computational burden that is typically associated with using SMC. PGAS is conceptually similar to the existing PG with backward simulation (PGBS) procedure. Instead of using separate forward and backward sweeps as in PGBS, however, we achieve the same effect in a single forward sweep. This makes PGAS well suited for addressing inference problems not only in state-space models, but also in models with more complex dependencies, such as non-Markovian, Bayesian nonparametric, and general probabilistic graphical models.

연구 동기 및 목표

• 적은 수의 입자를 사용할 때 순차적 몬테카를로(SMC)에서 경로의 붕괴로 인해 입자 깁스(PG) 샘플러의 혼합이 나빠지는 문제를 해결하기 위해.
• 명시적인 후방 스캔 없이도 PGBS에서의 후방 시뮬레이션의 이점을 얻을 수 있는 방법을 개발하여, 비마르코프적 종속성을 가진 복잡한 모델에 적용 가능하도록 하기 위해.
• 상태공간 모델 및 일반 확률 그래픽 모델에서 고차원 상태 경로 추론을 위한 통합적이고 즉시 사용 가능한 MCMC 커널을 제공하기 위해.
• SMC 기반 MCMC의 계산 부담을 줄이기 위해 적은 수의 입자로도 빠른 혼합을 가능하게 하기 위해.
• 비마르코프 모델에 대한 오차를 최소화하는 새로운 절단 전략을 제안하기 위해, 특히 PGBS와의 비교에서.

제안 방법

• PGAS는 조상 샘플링을 포함한 단일 전방 스캔 SMC를 사용하여 마르코프 커널을 구성하며, PGBS의 후방 시뮬레이션 단계를 대체한다.
• 조상 샘플링은 각 시간 단계에서 입자의 가중치와 전이 확률에 기반해 입자의 조상을 재샘플링하여 경로의 다양성을 향상시킨다.
• 알고리즘은 커널 하에서 목표 사후분포가 불변함을 보장하여 MCMC 체인의 타당성을 유지한다.
• 입자 경로는 전방으로 전파되고, 조상 색인은 SMC 가중치와 제안 밀도에서 유도된 조건부 확률을 사용해 재샘플링되는 후방 호환성 있는 SMC 프레임워크를 사용한다.
• 비마르코프 모델에 대한 새로운 절단 전략을 통합하여 메모리 범위를 제한함으로써 계산 비용을 줄이고 오차를 통제한다.
• 이론적 분석을 통해 PGAS 커널의 균일한 에르고딕성을 입증하여 강력한 수렴 보장을 확보한다.

실험 결과

연구 질문

• RQ1 단일 전방 스캔에서의 조상 샘플링이 명시적인 후방 스캔 없이도 후방 시뮬레이션과 동일한 혼합 이점을 달성할 수 있는가?
• RQ2 비마르코프 모델에서 적은 수의 입자를 사용할 경우 PGAS는 PGBS에 비해 혼합과 정확도 측면에서 어떻게 성능을 내는가?
• RQ3 PGAS는 표준 상태공간 모델을 초월해 베이지안 비모수적 및 일반 그래픽 모델과 같은 복잡한 종속성을 가진 모델에 적용 가능한가?
• RQ4 비마르코프 모델에서 PGAS를 사용할 경우 절단의 영향은 정확도와 계산 비용에 어떤 영향을 미치는가?
• RQ5 일반적인 모델 가정 하에서 PGAS는 균일한 에르고딕성과 이론적 타당성을 유지하는가?

주요 결과

• 수치 실험에서 PGAS는 PGBS에 비해 최대 한 계단수의 정확도 향상을 보였다. 특히 적은 수의 입자를 사용할 경우 두드러졌다.
• 조상 샘플링 절차는 적은 수의 입자로도 마르코프 커널의 빠른 혼합을 가능하게 하여 SMC 기반 MCMC의 계산 부담을 크게 감소시켰다.
• PGAS는 절단 오차 측면에서 PGBS를 능가했으며, 절단의 영향이 PGAS에서는 훨씬 덜 심각했다.
• 이론적 분석을 통해 PGAS는 균일하게 에르고딕한 마르코프 커널을 생성함을 확인하여 강력한 수렴 성질을 보장했다.
• 이 방법은 비마르코프 잠재변수 모델에 적용 가능하여 입자 MCMC의 적용 범위를 표준 상태공간 모델을 초월해 확장했다.
• 단일 전방 스캔 설계 덕분에 PGAS는 베이지안 비모수적 및 일반 확률 그래픽 모델과 같은 복잡한 모델에서 효율적인 추론을 가능하게 하였다.