[논문 리뷰] Perfect simulation using atomic regeneration with application to Sequential Monte Carlo

Anthony Lee, Randal Douc외 1명|arXiv (Cornell University)|2014. 07. 22.

Target Tracking and Data Fusion in Sensor Networks참고 문헌 54인용 수 7

한 줄 요약

이 논문은 전이 핵심이 분석적으로 구하기 어려운 균일 에르고딕 마코프 체인에 대해 인위적 원자와 베르누이 팩토리 기법을 활용하여 두 가지 효율적인 완전 시뮬레이션 알고리즘을 제안한다. 이 방법들은 불변 분포에서 정확한 표본을 추출할 수 있으며, 기대 실행 시간이 𝒪(β⁻¹)이 된다. 이는 반복 조건부 SMC 핵심을 사용한 완전 시뮬레이션에 응용되어, 페인만–카크 모델의 경우 기대 시간 복잡도가 𝒪(n²)이 된다.

ABSTRACT

Consider an irreducible, Harris recurrent Markov chain of transition kernel Π and invariant probability measure π. If Π satisfies a minorization condition, then the split chain allows the identification of regeneration times which may be exploited to obtain perfect samples from π. Unfortunately, many transition kernels associated with complex Markov chain Monte Carlo algorithms are analytically intractable, so establishing a minorization condition and simulating the split chain is challenging, if not impossible. For uniformly ergodic Markov chains with intractable transition kernels, we propose two efficient perfect simulation procedures of similar expected running time which are instances of the multigamma coupler and an imputation scheme. These algorithms overcome the intractability of the kernel by introducing an artificial atom and using a Bernoulli factory. We detail an application of these procedures when Π is the recently introduced iterated conditional Sequential Monte Carlo kernel. We additionally provide results on the general applicability of the methodology, and how Sequential Monte Carlo methods may be used to facilitate perfect simulation and/or unbiased estimation of expectations with respect to the stationary distribution of a non-uniformly ergodic Markov chain.

연구 동기 및 목표

• 전이 핵심이 해석적으로 구하기 어려운 균일 에르고딕 마코프 체인에 대해 완전 시뮬레이션 방법을 개발하는 것.
• 기존 방법의 한계를 극복하기 위해, 분할 체인의 시뮬레이션을 필요로 하는 방법들이나 복잡한 MCMC 핵심에서는 이를 실현하기 어려운 점을 해결하는 것.
• 분할 체인이 존재하지 않지만, 미니마이제이션 조건을 만족하는 반복 조건부 SMC 핵심의 불변 분포에서 정확한 표본을 추출할 수 있도록 하는 것.
• 특히 순차 몬테카를로 방법의 맥락에서 일반 상태공간 모델에 대한 완전 시뮬레이션의 적용 범위를 넓히는 것.
• SMC 기반 기법을 사용하여 비균일 에르고딕 체인에 대한 기대값의 비편향 추정을 위한 프레임워크를 제공하는 것.

제안 방법

• 상태공간에 인위적 싱글턴 원자 α = {a}를 도입하여, 알려진 β에 대해 모든 x에 대해 Π(x, α) ≥ β > 0가 되도록 보장한다.
• 베르누이 팩토리 기법을 사용해 p가 인위적 원자에 도달할 확률일 때 (2p−1)-동전을 시뮬레이션함으로써 재생을 통한 완전 시뮬레이션을 가능하게 한다.
• 기대 실행 시간 𝒪(β⁻¹)을 가지는 두 가지 동치의 완전 시뮬레이션 절차—다중감마 쌍용기와 추정 기반 절차—를 구성한다.
• 원래 핵심을 수정하여 균일 에르고딕성을 유지하면서도, 불변 측도가 원래 π와 인위적 원자에서의 점 질량의 혼합형태로 유지되도록 한다.
• 반복 조건부 SMC 핵심에 이 방법론을 적용하기 위해, 알려진 된 미니마이제이션 상수 ε > 0를 활용하고 SMC를 사용해 필요한 성분을 시뮬레이션한다.
• μ|φ|에서의 기각 표본 추출을 통해 φ(ζ)의 부호를 시뮬레이션하고, 부호 확률에 대한 비편향 추정을 위해 베르누이 팩토리 기법을 사용한다.

실험 결과

연구 질문

• RQ1 전이 핵심이 분석적으로 구하기 어려운 균일 에르고딕 마코프 체인에 대해 완전 시뮬레이션이 가능할 수 있는가?
• RQ2 분할 체인이 실현 가능하지 않은 경우, 베르누이 팩토리 기법을 사용해 재생 사건을 시뮬레이션할 수 있는가?
• RQ3 제안된 인위적 원자와 베르누이 팩토리 프레임워크 하에서 완전 시뮬레이션의 기대 계산 비용은 얼마인가?
• RQ4 이 방법론은 반복 조건부 SMC 핵심에 적용되어 페인만–카크 경로 분포에서 완전 시뮬레이션을 달성할 수 있는가?
• RQ5 특히 φ가 혼합된 부호를 가질 경우, 동일한 프레임워크 하에서 기대값의 비편향 추정이 가능할 수 있는가?

주요 결과

• 제안된 완전 시뮬레이션 알고리즘의 기대 실행 시간은 β⁻¹의 오르소 복잡도를 가지며, 여기서 β는 인위적 원자에 도달할 확률의 하한이다.
• 이 방법론은 i-cSMC 핵심을 사용해 이산 시간 페인만–카크 모델의 경로 분포에서 완전 시뮬레이션을 가능하게 하며, 시간 영역 n에 대해 기대 시간 복잡도 𝒪(n²)을 갖는다.
• 베르누이 팩토리 기법을 통해 부호 확률에 대한 (2p−1)-동전을 성공적으로 시뮬레이션하여, 양의 하한이 있는 기대값에 대한 비편향 추정이 가능해졌다.
• μ(φ) ≥ δ > 0 인 경우, E[W] = μ(φ)이고 P(0 ≤ W ≤ ||φ||) = 1를 만족하는 μ(φ)에 대한 비편향 추정기 W를 구성하였다.
• 알고리즘의 다중 독립 출력을 평균화하거나 제어 변수를 사용함으로써 분산 감소가 가능하다.
• 수정된 핵심의 불변 측도는 원래 π와 인위적 원자에서의 점 질량의 혼합형태를 유지하여 목표 분포의 구조를 그대로 보존한다.