[논문 리뷰] The Block Pseudo-Marginal Sampler

Minh‐Ngoc Tran, Robert Kohn외 2명|arXiv (Cornell University)|2016. 03. 08.

Mathematical Approximation and Integration참고 문헌 27인용 수 12

한 줄 요약

이 논문은 비가역 우도를 가진 베이지안 추론을 위한 효율적인 변종인 블록 가짜우도(MCMC) 샘플러(Block Pseudo-Marginal, BPM)를 소개한다. 몬테카를로 난수를 블록으로 나누고 매번 한 블록씩 업데이트함으로써, 현재 및 제안된 매개변수에서의 우도 추정치 간 상관관계를 높여 혼합성과 계산 비용을 크게 향상시킨다. 특히 부분표본 추출 및 무작위화된 준몬테카를로 설정에서 뛰어난 성능을 보이며, 높은 우도 분산을 가진 도전적인 상황에서 표준 및 상관된 PM 방법을 능가한다.

ABSTRACT

The pseudo-marginal (PM) approach is increasingly used for Bayesian inference in statistical models, where the likelihood is intractable but can be estimated unbiasedly. %Examples include random effect models, state-space models and data subsampling in big-data settings. Deligiannidis et al. (2016) show how the PM approach can be made much more efficient by correlating the underlying Monte Carlo (MC) random numbers used to form the estimate of the likelihood at the current and proposed values of the unknown parameters. Their approach greatly speeds up the standard PM algorithm, as it requires a much smaller number of samples or particles to form the optimal likelihood estimate. Our paper presents an alternative implementation of the correlated PM approach, called the block PM, which divides the underlying random numbers into blocks so that the likelihood estimates for the proposed and current values of the parameters only differ by the random numbers in one block. We show that this implementation of the correlated PM can be much more efficient for some specific problems than the implementation in Deligiannidis et al. (2016); for example when the likelihood is estimated by subsampling or the likelihood is a product of terms each of which is given by an integral which can be estimated unbiasedly by randomised quasi-Monte Carlo. Our article provides methodology and guidelines for efficiently implementing the block PM. A second advantage of the the block PM is that it provides a direct way to control the correlation between the logarithms of the estimates of the likelihood at the current and proposed values of the parameters than the implementation in Deligiannidis et al. (2016). We obtain methods and guidelines for selecting the optimal number of samples based on idealized but realistic assumptions.

연구 동기 및 목표

• 데이터 크기가 증가함에 따라 우도 분산이 커질 경우 표준 가짜우도 MCMC의 비효율성을 해결하기 위해, 특히 우도가 비가역적인 모델에서의 효율성을 높이기 위해.
• 난수의 의존성 구조를 블록 단위로 구성함으로써 혼합성 향상과 계산 비용 절감을 달성하는 상관된 가짜우도 샘플링의 새로운 구현 방법을 개발하기 위해.
• 현실적인 가정 하에 최적의 표본 크기와 블록 구조를 선택하기 위한 실용적 지침을 제공하기 위해.
• 현재 및 제안된 매개변수 값에서 로그우도 추정치 간 상관관계를 더 직접적으로 제어함으로써 Deligiannidis 등(2016)의 방법보다 더 높은 제어 능력을 확보하기 위해.
• 부분표본 추출 및 무작위화된 준몬테카를로와 같은 높은 분산을 가진 우도 추정 설정에서, 블록 PM이 독립적 PM 및 표준 상관된 PM 방법보다 뛰어난 성능을 보임을 입증하기 위해.

제안 방법

• 블록 PM은 몬테카를로 난수 집합을 상호배타적인 블록으로 나누어, 현재 및 제안된 매개변수에서의 우도 추정치가 오직 하나의 블록 난수만 다를 수 있도록 한다.
• 매개변수와 하나의 난수 블록을 동시에 업데이트하는 메트로폴리스-해스팅스 알고리즘을 사용하여, 현재 및 제안된 값에서의 로그우도 추정치 간 높은 상관관계를 확보한다.
• 이 방법은 각 우도 항이 비편향 몬테카를로 또는 무작위화된 준몬테카를로로 추정 가능한 곱 형태의 우도로 표현될 수 있다고 가정하며, 이를 통해 블록 단위 추정이 가능하다.
• 이dealized지만 현실적인 가정 하에 최적의 블록당 표본 수를 선택하기 위한 이론적 지침을 도출하며, 통합 자기상관시간(IAT)을 최소화하는 데 초점을 맞춘다.
• 이 방법은 확산 과정(예: CIR 모델)과 부분표본 추출 문제에 적용되었으며, 수용률과 계산 효율성 측면에서 독립적 PM 및 상관된 PM보다 뛰어난 성능을 보였다.
• 이론적 분석을 통해 높은 우도 분산 상황에서 BPM이 Deligiannidis 등(2016)의 방법보다 더 나은 혼합성을 확보할 수 있음을 입증하였으며, 이는 로그우도 추정치 간 더 강력하고 제어 가능한 상관관계 덕분이다.

실험 결과

연구 질문

• RQ1 몬테카를로 난수의 블록 기반 구조가 우도가 비가역적인 경우 가짜우도 MCMC의 효율성을 향상시킬 수 있는가?
• RQ2 독립적 PM 및 상관된 PM(Deligiannidis 등, 2016)과 비교할 때 블록 PM은 혼합성과 계산 비용 측면에서 어떻게 다른가?
• RQ3 기존 방법보다 블록 PM이 현재 및 제안된 매개변수 값에서 로그우도 추정치 간 상관관계를 더 직접적으로 제어할 수 있는가?
• RQ4 현실적인 가정 하에 블록 PM의 최적의 표본 크기와 블록 구조는 무엇인가?
• RQ5 부분표본 추출 또는 무작위화된 준몬테카를로와 같은 설정에서 블록 PM이 기존 방법보다 뚜렷한 이점을 제공하는가?

주요 결과

• 블록 PM은 독립적 PM(IPM) 대비 통합 자기상관시간(IAT) 비율에서 10.45배 향상되었으며, CPU 시간은 IPM 대비 10배 감소하였다.
• 블록 PM은 수용률 25.8%를 기록하여 독립적 PM의 4.9%보다 유의미하게 높은 혼합성과 더 낮은 랜덤워크 행동을 보였다.
• 745개 관측치를 가진 FedFunds 데이터셋에서, 블록 PM은 IPM 및 Deligiannidis 등(2016)의 상관된 PM보다 뛰어난 성능을 보였으며, 특히 추정 과정에서 높은 우도 분산이 발생하는 데 기인하였다.
• 블록 PM은 로그우도 추정치 간 상관관계를 직접 제어할 수 있어, Deligiannidis 등(2016)의 방법보다 더 나은 튜닝과 성능 향상을 가능하게 하였다.
• 현실적인 가정 하에 도출된 이론적 지침은 최적의 표본 크기와 블록 구성에 대해 성공적으로 예측하였으며, 높은 분산 설정에서 효율성을 향상시켰다.
• 블록 PM은 특히 부분표본 추출 및 무작위화된 준몬테카를로 응용에서 효과적이었으며, 정확도를 유지하면서도 블록당 필요 표본 수를 줄였다.