[논문 리뷰] Accelerating pseudo-marginal Metropolis-Hastings by correlating auxiliary variables

Johan Dahlin, Fredrik Lindsten외 2명|arXiv (Cornell University)|2015. 11. 17.

Markov Chains and Monte Carlo Methods참고 문헌 36인용 수 23

한 줄 요약

이 논문은 가짜 주변확률 분포를 사용하는 메트로폴리스-하스팅스(Metropolis-Hastings) 알고리즘(pmMH)에서 보조 변수 간 상관관계를 도입함으로써 마르코프 체인의 혼합 성능 향상과 계산 비용 감소를 제안한다. 크랭크-니콜슨(Crank-Nicolson, CN) 제안 방법을 사용해 반복 간 보조 변수 간 양의 상관관계를 유도함으로써, 각 반복에서 사용하는 입자 수를 줄일 수 있으며, 이는 샘플링 효율성을 유지하거나 향상시키는 데 기여한다. 시험 모델에서 최적 성능은 CN 제안 방법의 스케일 파라미터 σᵤ = 0.55일 때 관찰되었다.

ABSTRACT

Pseudo-marginal Metropolis-Hastings (pmMH) is a powerful method for Bayesian inference in models where the posterior distribution is analytical intractable or computationally costly to evaluate directly. It operates by introducing additional auxiliary variables into the model and form an extended target distribution, which then can be evaluated point-wise. In many cases, the standard Metropolis-Hastings is then applied to sample from the extended target and the sought posterior can be obtained by marginalisation. However, in some implementations this approach suffers from poor mixing as the auxiliary variables are sampled from an independent proposal. We propose a modification to the pmMH algorithm in which a Crank-Nicolson (CN) proposal is used instead. This results in that we introduce a positive correlation in the auxiliary variables. We investigate how to tune the CN proposal and its impact on the mixing of the resulting pmMH sampler. The conclusion is that the proposed modification can have a beneficial effect on both the mixing of the Markov chain and the computational cost for each iteration of the pmMH algorithm.

연구 동기 및 목표

• 독립적인 보조 변수 제안으로 인해 발생하는 가짜 주변확률 메트로폴리스-하스팅스(pmMH) 알고리즘의 열악한 혼합 성능를 해결하기 위해.
• 보조 변수 수(예: 입자 수)를 줄여도 체인 혼합 성능에 영향을 주지 않도록 함으로써 pmMH의 계산 비용을 감소시키기 위해.
• 이해할 수 없는 우도 함수를 가진 모델에서 보조 변수 간 시간적 상관관계를 도입함으로써 샘플링 효율성을 향상시키기 위해.
• 표준 pmMH의 고정된 제안 방식을 대체하여 낮은 튜닝이 가능한 실용적인 대안을 제공하기 위해.

제안 방법

• 보조 변수에 대한 표준 독립적 제안 방식을 크랭크-니콜슨(CN) 제안 방식으로 대체하여 반복 간 양의 상관관계를 유도하기 위해.
• u' = √(1 - σᵤ²) * u + σᵤ * z 형태의 CN 제안을 사용하여 상관관계를 가진 보조 변수를 생성하기 위해. 여기서 z는 표준 정규분포를 따르는 랜덤 변수이다.
• θ와 상관관계가 있는 u를 포함한 확장된 목표 분포에 표준 pmMH 알고리즘을 적용하며, 우도는 입자 필터링 또는 중요도 샘플링을 통해 추정한다.
• 수용률과 통합 자기상관시간(Integrated Autocorrelation Time, IACT)을 균형 잡기 위해 CN 제안의 스케일 파라미터 σᵤ를 튜닝한다.
• 다양한 몬테카를로 반복을 통해 후행 분포 추정치, 트레이스 플롯, IACT 지표를 사용해 성능을 평가한다.
• 독립적인 보조 변수를 사용하는 표준 pmMH와 비교하여 혼합 성능와 계산 비용 측면에서 제안된 방법의 성능을 평가한다.

실험 결과

연구 질문

• RQ1 CN 제안을 통해 보조 변수 간 상관관계를 도입하면 pmMH 알고리즘의 혼합 성능 향상이 가능한가?
• RQ2 제안된 방법은 체인 혼합 성능를 유지하거나 향상시키면서도 각 반복에서 입자 수를 줄일 수 있는가?
• RQ3 실제 적용에서 CN 제안의 최적 스케일 파라미터 σᵤ는 무엇이며, 이는 성능에 어떤 영향을 미치는가?
• RQ4 계산 비용과 샘플링 효율성 측면에서 제안된 방법은 표준 pmMH와 비교해 어떻게 성능가능한가?
• RQ5 이해할 수 없는 우도 함수를 가진 모델, 예를 들어 상태공간 모델에 대해 CN 기반 상관관계 전략이 효과적으로 적용 가능한가?

주요 결과

• 제안된 CN 기반 pmMH 방법은 독립적인 보조 변수를 사용하는 표준 pmMH 대비 통합 자기상관시간(IACT)을 약 1.5배 감소시켰다.
• 시험된 상태공간 모델에서 모든 파라미터의 최대 IACT가 최소가 되는 최적 성능은 σᵤ = 0.55일 때 관찰되었다.
• CN 제안을 사용할 경우 모든 파라미터에서 수용률 중앙값과 IACT가 독립 샘플링 대비 유의미하게 향상되었다.
• 이 방법을 통해 혼합 성능를 유지하면서도 입자 수(Nu)를 줄일 수 있었으며, 이는 반복당 계산 비용을 크게 감소시켰다.
• 제안된 방법에서의 후행 분포 추정치는 잘 校정되어 있었으며, 추정된 후행 평균은 μ = 0.19, φ = 0.98, σᵥ = 0.18, ρ = -0.70이며, 이에 해당하는 표준편차는 각각 0.22, 0.01, 0.04, 0.09였다.
• 로그우도 추정기의 표준편차는 1.2였지만, 최적의 σᵤ는 이론적 예측값 0.9와는 거리가 있었으며, 이는 모델 특화 튜닝 또는 우도 추정기의 비정규성 때문일 수 있음을 시사한다.