[논문 리뷰] Marginal sequential Monte Carlo for doubly intractable models

Richard G. Everitt, Dennis Prangle외 2명|arXiv (Cornell University)|2017. 10. 12.

Markov Chains and Monte Carlo Methods참고 문헌 9인용 수 6

한 줄 요약

이 논문은 분할 함수가 추정 불가능한 이중으로 비가역적인 모형을 위한 변동성 순차 몽테카를로(SMC) 방법을 제안한다. 이는 적응형 우도 추정과 다른 안내열차 순서를 사용함으로써 기존의 가짜-모서리 SMC 방법을 개선하며, 적응형 분산 감소 기법을 통해 더 효율적인 추론을 가능하게 하고 데이터 포인트 온도조절을 초월한 일반화를 실현한다. 실험 결과는 제안된 방법이 ABC 및 표준 SMC 방법보다 뛰어난 성능을 보임을 보여준다.

ABSTRACT

Bayesian inference for models that have an intractable partition function is known as a doubly intractable problem, where standard Monte Carlo methods are not applicable. The past decade has seen the development of auxiliary variable Monte Carlo techniques (Møller et al., 2006; Murray et al., 2006) for tackling this problem; these approaches being members of the more general class of pseudo-marginal, or exact-approximate, Monte Carlo algorithms (Andrieu and Roberts, 2009), which make use of unbiased estimates of intractable posteriors. Everitt et al. (2017) investigated the use of exact-approximate importance sampling (IS) and sequential Monte Carlo (SMC) in doubly intractable problems, but focussed only on SMC algorithms that used data-point tempering. This paper describes SMC samplers that may use alternative sequences of distributions, and describes ways in which likelihood estimates may be improved adaptively as the algorithm progresses, building on ideas from Moores et al. (2015). This approach is compared with a number of alternative algorithms for doubly intractable problems, including approximate Bayesian computation (ABC), which we show is closely related to the method of Møller et al. (2006).

연구 동기 및 목표

• 비가역적인 분할 함수를 가진 모형에서 베이지안 추론의 과제를 해결하기 위해.
• 데이터 포인트 온도조절에 의존하지 않는 더 효율적인 순차 몽테카를로(SMC) 샘플러를 개발하여, 더 유연한 분포 시퀀스를 가능하게 하기 위해.
• Moores 등(2015)의 기법을 활용해 SMC 실행 중에 우도 추정을 적응적으로 개선함으로써, 가짜-모서리 추정치의 분산을 줄이기 위해.
• 근사 베이지안 계산(ABC)과 다중 보조 변수(MAV) 방법 사이의 공식적인 연결 고리를 설정하며, 특정 설계 선택 조건 하에서 동치임을 보여주기 위해.
• 실험적으로 제안된 SMC 방법을 기존 방법들과 비교 평가하기 위해, ABC 및 데이터 포인트 온도조절을 사용한 SMC 포함

제안 방법

• 비가역적인 우도 비율의 무편향 추정치를 사용하는 근사 SMC 알고리즘을 제안하여, 전체 사후분포를 평가할 필요 없이 정확한-근사 추론을 가능하게 한다.
• 과거 시뮬레이션 기반로 제안 분포와 우도 추정치를 업데이트함으로써 SMC 내에서 적응형 중요도 샘플링을 구현하여 분산을 감소시킨다.
• 데이터 포인트 온도조절을 초월한 SMC 프레임워크의 일반화를 위해 임의의 중간 분포 시퀀스를 허용함으로써, 더 높은 융통성과 수렴성 향상을 도모한다.
• 다중 중간 목표를 갖는 안내된 중요도 샘플링(AIS)을 사용하여 분할 함수 비율 $ Z(\hat{\theta})/Z(\theta) $ 의 개선된 무편향 추정치를 구성한다.
• 세부 균형 조건과 가역 커널 하에서, 전체 데이터 시뮬레이션을 수행하는 철저히 설계된 ABC 계획이 MAV 방법과 동일한 추정치를 도출함을 보여줌으로써 ABC 우도 추정치와 MAV 방법 사이의 연결 고리를 유도한다.
• 가짜-모서리 원리를 SMC에 적용하여 추정된 우도를 랜덤 가중치로 간주함으로써, 사후분포 $ \pi(\theta|y) $ 의 진짜 사후분포가 유지됨을 보장한다.

실험 결과

연구 질문

• RQ1 적응형 우도 추정과 데이터 포인트 온도조절을 초월한 순서를 사용함으로써, 이중 비가역 모형을 위한 SMC 샘플러의 효율성을 높일 수 있는가?
• RQ2 제안된 근사 SMC 방법의 성능은 표준 SMC(데이터 포인트 온도조절 사용) 및 ABC와 비교해 효과적 표본 크기와 분산 감소 측면에서 어떻게 나타나는가?
• RQ3 전체 데이터 시뮬레이션을 사용하는 ABC 방법이 어떤 조건에서 MAV 방법과 동일한 우도 추정치를 도출하는가?
• RQ4 다중 보조 변수와 안내열차를 사용함으로써, 이중 비가역 모형에서 가짜-모서리 SMC의 정확도와 안정성을 향상시킬 수 있는가?
• RQ5 SMC 실행 중에 우도 추정치를 적응적으로 개선함으로써, 가중치 함수의 분산을 얼마나 줄일 수 있으며, 이는 샘플링 효율성 향상에 얼마나 기여하는가?

주요 결과

• 적응형 우도 추정을 사용하는 제안된 근사 SMC 방법은 데이터 포인트 온도조절을 사용하는 표준 SMC보다 더 높은 효과적 표본 크기를 달성하여, 더 높은 샘플링 효율성을 나타낸다.
• 충분통계를 사용할 경우, 심지어 최소 분산 형태의 ABC조차도 제안된 방법보다 열등한 성능을 보이며, 이는 MAV 기반 접근법이 이 맥락에서 표준 ABC보다 더 효과적임을 입증한다.
• 전체 데이터와 반전 시간 MCMC 체인을 사용하는 철저히 설계된 ABC 알고리즘은 MAV 방법과 동일한 추정치를 도출하며, 이는 가역 커널과 세부 균형 조건 하에서 이론적 동치성을 확인한다.
• 다중 중간 목표를 갖는 안내된 중요도 샘플링(AIS)을 사용할 경우, 특히 $ Z(\theta) $ 가 매우 변동성이 클 경우, 표준 IS보다 더 정확하고 분산이 적은 분할 함수 비율 추정치를 도출한다.
• SMC 실행 중에 우도 추정치를 적응적으로 개선함으로써, 가중치 함수의 분산이 크게 감소하여 더 안정적이고 정확한 사후분포 근사치를 도출한다.
• 이론적 분석을 통해 제안된 SMC 방법이 비가역 우도의 무편향 추정치를 사용하더라도, 가짜-모서리 원리에 따라 정확한 사후분포 $ \pi(\theta|y) $ 를 유지함을 확인한다.