[논문 리뷰] On the Convergence of Adaptive Sequential Monte Carlo Methods

Alexandros Beskos, Ajay Jasra외 2명|arXiv (Cornell University)|2013. 06. 27.

Markov Chains and Monte Carlo Methods참고 문헌 16인용 수 8

한 줄 요약

이 논문은 역사에 의존하는 제안 커널과 가중치를 사용하는 적응형 순차 몽테카를로(SMC) 방법에 대해 최초로 약한 대수의 법칙(WLLN)과 중심극한정리(CLT)를 수립한다. 이는 이러한 적응형 SMC 알고리즘의 추정기의 渐近 분산이 이상적인 제안 커널을 사용하는 '완벽한' SMC 알고리즘과 동일하다는 것을 증명하며, 나비에-스토크스 모델과 같은 고차원 복잡 모델에서의 사용에 대한 이론적 근거를 제공한다.

ABSTRACT

In several implementations of Sequential Monte Carlo (SMC) methods it is natural, and important in terms of algorithmic efficiency, to exploit the information of the history of the samples to optimally tune their subsequent propagations. In this article we provide a carefully formulated asymptotic theory for a class of such \emph{adaptive} SMC methods. The theoretical framework developed here will cover, under assumptions, several commonly used SMC algorithms. There are only limited results about the theoretical underpinning of such adaptive methods: we will bridge this gap by providing a weak law of large numbers (WLLN) and a central limit theorem (CLT) for some of these algorithms. The latter seems to be the first result of its kind in the literature and provides a formal justification of algorithms used in many real data context. We establish that for a general class of adaptive SMC algorithms the asymptotic variance of the estimators from the adaptive SMC method is \emph{identical} to a so-called `perfect' SMC algorithm which uses ideal proposal kernels. Our results are supported by application on a complex high-dimensional posterior distribution associated with the Navier-Stokes model, where adapting high-dimensional parameters of the proposal kernels is critical for the efficiency of the algorithm.

연구 동기 및 목표

• 적응형 SMC 방법에 대한 이론적 일致성과 변동성 분석의 부족을 해결하고자 한다. 이는 널리 사용되지만 이론적으로는 잘 이해되지 않는 분야이다.
• 입자 역사에 기반해 제안 커널과 가중치를 조정하는 적응형 SMC 알고리즘의 사용을 공식적으로 정당화하고자 한다. 이는 알고리즘 효율성을 향상시키기 위함이다.
• 일반적인 적응형 SMC 알고리즘을 포함한 일반적인 渐近 이론 프레임워크를 수립하고자 한다. 이는 순차 베이지안 추론에서 흔히 사용되는 알고리즘을 포함한다.
• 특히 고차원 및 복잡한 모델에서 실용적 성공과 이론적 기반 사이의 격차를 메우고자 한다.

제안 방법

• 과거 입자 시스템의 요약 통계량을 통해 경험 측도를 통해 과거 입자 시스템의 역사에 의존하는 마르코프 커널과 가중치를 갖는 적응형 SMC 알고리즘의 클래스를 제안한다.
• 입자 근사 $\eta_n^N$ 을 사용하여 제안 커널 $M_{n,\xi_n}$ 과 가중치 $G_{n,\xi_n}$ 의 최적 파라미터 $\xi_n$ 을 추정하며, 도달할 수 없는 이상적인 커널을 대체한다.
• 약한 대수의 법칙(WLLN)과 중심극한정리(CLT)를 적용하여, 타겟 분포와 그 정규화 상수에 대한 추정기의 渐近 정규성을 증명한다.
• 적응형 SMC 추정기의 渐近 분산을 분석하고, 이상적인 제안 커널을 사용하는 '완벽한' SMC 알고리즘과 동일한 분산을 가짐을 보인다.
• 고차원 상태 공간을 가진 고차원 정규 타겟 모델을 사용하여 이론적 결과를 검증하며, 제안 분포의 파라미터 적응에 초점을 맞춘다.
• 메트로폴리스-하스팅스 수용 확률의 도함수에 대한 명시적 표현을 유도하고, CLT에 필요한 미분 가능성과 모멘트 조건을 확인하는 데 사용한다.

실험 결과

연구 질문

• RQ1 입자 수가 증가함에 따라 역사에 의존하는 제안 커널과 가중치를 갖는 적응형 SMC 알고리즘이 진짜 타겟 분포로 확률적으로 수렴하는가?
• RQ2 이러한 적응형 SMC 방법이 생성하는 추정기의 渐近 분산은 무엇이며, 이상적인 SMC 알고리즘의 분산과 어떻게 비교되는가?
• RQ3 제안 커널의 시간에 따라 변하는, 데이터 기반의 조정이 이루어지는 상황에서도 중심극한정리를 엄밀히 수립할 수 있는가?
• RQ4 적응형 SMC 추정기의 渐近 분산이 이상적인 제안 커널을 사용하는 '완벽한' SMC 알고리즘과 일치하는 조건은 무엇인가?
• RQ5 특히 고차원 사후 분포에서 적응형 SMC의 성능은 차원에 따라 어떻게 스케일링되는가?

주요 결과

• 이 논문은 타겟 분포와 그 정규화 상수에 대한 적응형 SMC 추정기의 약한 대수의 법칙(WLLN)을 수립한다.
• 이러한 적응형 SMC 알고리즘 클래스에 대해 문헌상 최초로 중심극한정리(CLT)를 증명하며, 이들의 사용에 대한 공식적 기초를 제공한다.
• 적응형 SMC 추정기의 渐近 분산이 이상적인 제안 커널을 사용하는 '완벽한' SMC 알고리즘과 동일하다는 것이 입증된다.
• 나비에-스토크스 모델과 같은 고차원 모델에서는 제안 커널 파라미터의 적응 조정이 알고리즘 효율성을 크게 향상시킨다.
• 이론적 분석은 복잡한 고차원 상태 공간에서도 적응형 SMC 방법이 渐近적으로 올바르다는 것을 확인한다.
• 증명은 메트로폴리스-하스팅스 커널의 수용 확률의 미분 가능성과 모멘트 조건을 검증하는 데 의존하며, 이는 CLT의 타당성을 보장한다.