[논문 리뷰] Variance Estimation in Adaptive Sequential Monte Carlo

Qiming Du, Arnaud Guyader|arXiv (Cornell University)|2019. 09. 30.

Markov Chains and Monte Carlo Methods참고 문헌 14인용 수 5

한 줄 요약

이 논문은 자연스러운 가정 하에 적응형 순차 몽테카를로(ASMC) 방법에 대한 Lee와 Whiteley의 분산 추정기의 일致성을 확립하며, 이는 비적응형 '한계' SMC 알고리즘의 분산과 渐近적으로 일치함을 보여준다. 저자들은 입자 유전적 역사를 기반으로 한 공생수 나무 기반 추정기를 도입하여 기존 방법과 연관지며, 단일 시뮬레이션 실행으로도 적응형 설정에서 분산 추정이 가능하게 한다.

ABSTRACT

Sequential Monte Carlo (SMC) methods represent a classical set of techniques to simulate a sequence of probability measures through a simple selection/mutation mechanism. However, the associated selection functions and mutation kernels usually depend on tuning parameters that are of first importance for the efficiency of the algorithm. A standard way to address this problem is to apply Adaptive Sequential Monte Carlo (ASMC) methods, which consist in exploiting the information given by the history of the sample to tune the parameters. This article is concerned with variance estimation in such ASMC methods. Specifically, we focus on the case where the asymptotic variance coincides with the one of the "limiting" Sequential Monte Carlo algorithm as defined by Beskos et al. (2016). We prove that, under natural assumptions, the estimator introduced by Lee and Whiteley (2018) in the nonadaptive case (i.e., SMC) is also a consistent estimator of the asymptotic variance for ASMC methods. To do this, we introduce a new estimator that is expressed in terms of coalescent tree-based measures, and explain its connection with the previous one. Our estimator is constructed by tracing the genealogy of the associated Interacting Particle System. The tools we use connect the study of Particle Markov Chain Monte Carlo methods and the variance estimation problem in SMC methods. As such, they may give some new insights when dealing with complex genealogy-involved problems of Interacting Particle Systems in more general scenarios.

연구 동기 및 목표

• 적응형 순차 몽테카를로(ASMC) 방법에서의 일관된 분산 추정의 부족을 해결하기 위해, 이는 널리 사용되지만 신뢰할 수 있는 불확실성 정량화가 부족하다.
• Lee와 Whiteley의 비적응형 분산 추정기를 입자 역사에 기반해 조정 매개변수를 갱신하는 적응형 설정으로 확장하기 위해.
• 자연스러운 가정 하에 적응형 SMC 알고리즘의 점근적 분산이 비적응형 '한계' SMC 알고리즘과 동일한 값을 가짐을 증명하기 위해.
• 입자 유전적 역사를 추적하는 공생수 나무 기반 분산 추정기를 도입하여 기존 추정기와 연결하고, 적응형 설정에서의 분산 추정 가능성을 높이기 위해.
• 입자 마르코프 체인 몽테카를로와 SMC에서의 분산 추정 간 이론적 연결 고리를 제공하며, 더 넓은 응용 가능성을 고려하기 위해.

제안 방법

• ASMC에서 상호작용 입자 시스템(IPS)의 유전적 구조를 추적하는 공생수 나무 기반 분산 추정기를 제안한다.
• 공생수 측도 $ \bar{\Gamma}_{n}^{(p)} $ 를 사용하여 추정기를 정의하며, 이는 시간 $ p $ 에서 공통 조상으로부터 유래한 시간 $ n $ 의 입자들의 동시분포를 나타낸다.
• 비적응형 경우에서 Lee와 Whiteley(2018)의 항별 추정기와 새로운 공생수 기반 추정기 간의 연결 고리를 설정한다.
• Feynman-Kac 반군 이론과 쌍대 공식을 활용하여 적응형 프레임워크에서 분산 추정기의 점근적 행동을 분석한다.
• ASMC 알고리즘에 대한 미약한 정규성 및 안정성 가정 하에 추정기의 거의 확실 수렴성과 일관성을 증명한다.
• 고정 지연 $ H $ 를 기반으로 한 잘라낸 분산 추정기를 도입하여 최근 유전적 정보만을 사용함으로써 고차원 또는 장시간 시뮬레이션에서의 수치적 안정성을 향상시킨다.

실험 결과

연구 질문

• RQ1 Lee와 Whiteley의 비적응형 분산 추정기가 적응형 SMC 방법에 적용될 때도 일관성을 유지하는가?
• RQ2 적응형 SMC에서 점근적 분산을 일관되게 추정할 수 있는 공생수 나무 기반 추정기를 구성할 수 있는가?
• RQ3 어떤 조건에서 적응형 SMC 알고리즘이 비적응형 '한계' SMC 알고리즘과 동일한 한계 분산으로 수렴하는가?
• RQ4 입자 시스템의 유전적 정보는 장시간 또는 고차원 설정에서 수치적으로 안정된 분산 추정기를 구성하는 데 어떻게 활용될 수 있는가?
• RQ5 적응형 SMC 맥락에서 공생수 나무 기반 추정기와 항별 추정기 간의 이론적 연결 고리는 무엇인가?

주요 결과

• 적응형 알고리즘이 비적응형 '한계' SMC 알고리즘과 점점 더 가까워지는 가정 하에, Lee와 Whiteley의 분산 추정기는 적응형 SMC에 대해 일관성 있음을 입증한다.
• 새로운 공생수 나무 기반 분산 추정기가 도입되었으며, 이는 비적응형 경우에서 항별 추정기와 수학적으로 동일하며, 자연스럽게 적응형 설정으로 확장된다.
• 이론적 분석을 통해 표준 정규성 및 안정성 조건 하에 적응형 SMC 추정기의 점근적 분산이 비적응형 '한계' SMC와 동일한 극한으로 수렴함을 확인한다.
• 수치 실험 결과, $ N \to \infty $ 일 때 적응형 및 비적응형 SMC의 분산 추정기들이 동일한 기준값으로 수렴하며, $ N \geq 10^4 $ 에서는 95% 신뢰구간이 겹침을 보였다.
• 장시간 시뮬레이션에서의 열화를 완화하기 위해 고정 지연 $ H $ 를 기반으로 한 잘라낸 분산 추정기를 제안하였으며, 혼합성 및 기억 상실 성질에 기반한 이론적 근거를 제시하였다.
• 추정기 $ N(\eta_N^n(f)^2 - \bar{\Gamma}_{n,N}^{(\varnothing,H)}(f^{\otimes 2})) $ 는 원래 Lee-Whiteley 추정기의 안정적이고 잘라낸 형태임을 입증하였으며, OD19의 접근과 일치한다.