[논문 리뷰] Accelerating Metropolis-Hastings algorithms: Delayed acceptance with prefetching

Marco Banterle, Clara Grazian외 1명|arXiv (Cornell University)|2014. 06. 10.

Markov Chains and Monte Carlo Methods참고 문헌 21인용 수 12

한 줄 요약

이 논문은 수용 비율을 순차적인 구성요소로 분할하여 조기 기각을 가능하게 하여 계산 시간을 줄이는 지연 수용 메트로폴리스-해스팅스 알고리즘을 제안한다. 이와 함께 프리패칭을 통합함으로써, 특히 우도가 인수분해되는 경우, 계산 시간을 최대 3배까지 감소시킨다. 이는 혼합성과 유효 표본 크기 수준을 유지하면서 이루어진다.

ABSTRACT

MCMC algorithms such as Metropolis-Hastings algorithms are slowed down by the computation of complex target distributions as exemplified by huge datasets. We offer in this paper an approach to reduce the computational costs of such algorithms by a simple and universal divide-and-conquer strategy. The idea behind the generic acceleration is to divide the acceptance step into several parts, aiming at a major reduction in computing time that outranks the corresponding reduction in acceptance probability. The division decomposes the "prior x likelihood" term into a product such that some of its components are much cheaper to compute than others. Each of the components can be sequentially compared with a uniform variate, the first rejection signalling that the proposed value is considered no further, This approach can in turn be accelerated as part of a prefetching algorithm taking advantage of the parallel abilities of the computer at hand. We illustrate those accelerating features on a series of toy and realistic examples.

연구 동기 및 목표

• 복잡한 사후 분포 평가 시에 대규모 데이터셋을 포함한 경우 메트로폴리스-해스팅스 알고리즘의 높은 계산 비용을 해결하기 위해.
• 전체 수용 비율을 계산하는 데 소요되는 시간을 줄이기 위해 수용 비율을 순차적이고 점점 더 비싼 구성요소들로 분해하기 위해.
• 최소한의 코드 변경으로도 어떤 메트로폴리스-해스팅스 알고리즘에도 적용 가능한 일반적이고 모듈화된 접근 방식을 도입하기 위해.
• 현대 병렬 컴퓨팅을 활용하기 위해 지연 수용을 프리패칭과 통합하여 계산을 더욱 가속화하기 위해.
• 실제 베이지안 모델, 특히 제프레이나 우선분포를 가진 로지스틱 회귀와 유한 혼합 모델에 대해 이 방법을 평가하여 실용적 성과를 입증하기 위해.

제안 방법

• 메트로폴리스-해스팅스 수용 비율을 d개의 양수 함수의 곱으로 분해: π(θ)q(θ,η)/π(η)q(η,θ) = ∏_{k=1}^d ρ_k(η,θ).
• 순차적 수용 검사 수행: 각 k에 대해 ρ_k(η,θ)를 독립적인 U(0,1) 변량과 비교하고, 첫 번째 실패 시 즉시 기각한다.
• 이로 인해 정상 분포가 유지되며, 구성요소 중 하나가 실패하면 조기 종료가 가능해진다.
• 비용이 많이 드는 구성요소를 병렬 프로세서에서 사전에 계산하여 계산 단계와 결정 단계를 겹치는 프리패칭을 사용한다.
• 토이 모델과 실제 사례 모두에 이 방법을 적용하여, 로지스틱 회귀와 비공액 우선분포를 가진 유한 혼합 모델을 포함한다.
• 세부 균형 조건을 통해 이론적 타당성을 확보하여, 수정된 알고리즘이 목표 분포 π(θ)를 유지함을 보여준다.

실험 결과

연구 질문

• RQ1 수용 비율을 순차적인 구성요소로 분할하는 것이 목표 분포를 왜곡시키지 않고 메트로폴리스-해스팅스 알고리즘의 계산 시간을 줄일 수 있는가?
• RQ2 표준 MCMC와 비교했을 때 지연 수용 전략은 유효 표본 크기와 수용률 측면에서 어떻게 성능을 발휘하는가?
• RQ3 현대 병렬 아키텍처에서 프리패칭이 지연 수용 알고리즘을 얼마나 더 가속화할 수 있는가?
• RQ4 고차원 또는 대규모 데이터 환경에서 수용 확률 감소와 계산 시간 감소 사이의 상호 교환 관계는 어떠한가?
• RQ5 유한 혼합 모델에 대해 제프레이나 우선분포와 레이블 전환 문제를 고려할 때 이 방법은 얼마나 효과적인가?

주요 결과

• 혼합 모델에서 n=1000일 때 지연 수용 알고리즘은 표준 MCMC 대비 최대 1.6배의 계산 시간 감소를 기록했으며, 이는 수용률 10% 감소에도 불구하고 성립한다.
• 프리패칭과 결합된 경우, 표준 MCMC 대비 계산 시간이 3배 감소했으며, 유효 표본 크기(ESS)는 초당 7.52로 표준 프리패칭의 2.9보다 높다.
• 지연 수용의 유효 표본 크기(EPS)는 표준 MCMC 대비 약 1.5배 정도 낮지만, 속도 향상 덕분에 이 손실를 상쇄한다.
• 혼합 모델 추정에서 지연 수용과 프리패칭을 통한 평균 실행 시간은 10^5회 시뮬레이션당 192.65초이며, 표준 MH의 517.60초보다 훨씬 낮다.
• 모델링된 사후 분포가 진짜 파라미터 값과 매우 유사하게 유지되어, 3성분 정규 혼합 모델에서 우수한 사후 커버리지를 보여준다.
• 혼합 모델에서는 레이블 전환이 발생하지만, 이 지연 수용과 프리패칭 방법은 알려진 식별성 문제에도 불구하고 신뢰할 수 있는 추론을 제공한다.