[논문 리뷰] On Optimal Scaling of Additive Transformation Based Markov Chain Monte Carlo

Kushal K. Dey, Sourabh Bhattacharya|arXiv (Cornell University)|2013. 07. 04.

Markov Chains and Monte Carlo Methods인용 수 4

한 줄 요약

이 논문은 고차원 파라미터를 단일 일차원 랜덤 샘플을 사용해 업데이트하는 방법인 추가 변환 기반 마르코프 체인 몬테카를로(TMCMC)의 최적 스케일링을 연구한다. 다양한 목표 분포 하에서의 확산 극한을 도출하고, TMCMC가 랜덤 워크 메트로폴리스보다 훨씬 높은 최적 수락 확률 0.439를 달성함을 보여주며, 이는 다양한 모델과 공간 데이터 응용 분야에서 더 빠른 수렴과 뛰어난 성능을 이끌어낸다.

ABSTRACT

Study of diffusion limits of the Metropolis-Hastings algorithm in high dimensions yields useful quantificaton of the scaling of the underlying proposal distribution in terms of the dimensionality. Here we consider the recently introduced Transformation-based Markov Chain Monte Carlo (TMCMC) (Dutta and Bhattacharya (2013a)), a methodology that is designed to update all the parameters simultaneously using some simple deterministic transformation of a one-dimensional random variable drawn from some arbitrary distribution on a relevant support. The additive transformation based TMCMC is similar in spirit to random walk Metropolis, except the fact that unlike the latter, additive TMCMC uses a single draw from a one-dimensional proposal distribution to update the high-dimensional parameter. In this paper, we study the diffusion limits of additive TMCMC under various set-ups ranging from the product structure of the target density to the case where the target is absolutely continuous with respect to a Gaussian measure; we also consider the additive TMCMC within Gibbs approach for all the above set-ups. These investigations lead to appropriate scaling of the one-dimensional proposal density. We also show that the optimal acceptance rate of additive TMCMC is 0.439 under all the aforementioned set-ups, in contrast with the well-established 0.234 acceptance rate associated with optimal random walk Metropolis algorithms under the same set-ups. We also elucidate the ramifications of our results and the advantages of additive TMCMC over random walk Metropolis with ample simulation studies. It was found that in all set ups we considered- namely iid component set up, independent scaling components, a wide range of dependent set ups as well as real spatial data application- TMCMC performed much better and converged to the target density much faster than the RWMH algorithm.

연구 동기 및 목표

• 제품 및 가우시안 종속 목표 분포를 포함한 다양한 목표 밀도 구조에서 추가 TMCMC의 확산 극한을 조사하는 것.
• 고차원 파rameter 공간에서 일차원 제안 분포의 최적 스케일링을 규명하는 것.
• 수렴 속도와 혼합 효율성 측면에서 추가 TMCMC와 랜덤 워크 메트로폴리스-하스팅스(RWMH)의 성능을 비교하는 것.
• 다양한 종속성 구조에서 겔즈 샘플링 프레임워크 내에서 TMCMC의 효능을 평가하는 것.
• 다양한 시뮬레이션 연구와 실제 공간 데이터 응용을 통해 TMCMC가 RWMH에 비해 실용적 이점을 보이는 것을 입증하는 것.

제안 방법

• 독립 동일분포 성분, 독립 스케일링 및 일반 종속 구조를 가정한 고차원 점근적 영역에서 추가 TMCMC의 확산 극한을 유도한다.
• TMCMC 알고리즘의 극한 확산 과정을 기술하기 위해 기능 중심 극한정리의 논리를 적용한다.
• 일차원 랜덤 변수의 결정론적 변환을 통해 고차원 파rameter 공간에서의 이동을 제안하며, 세부 균형을 유지한다.
• 혼합 성능 향상을 위해 구조적 모델에서의 단독 TMCMC와 겔즈 샘플러 내 TMCMC를 모두 고려한다.
• 최적 성능를 달성하기 위해 확산 극한 분석 기반의 제안 분포 스케일링 규칙을 유도한다.
• 이론적 결과의 타당성을 검증하고 다양한 시나리오에서 RWMH와의 수렴 속도를 비교하기 위해 시뮬레이션 연구를 수행한다.

실험 결과

연구 질문

• RQ1 고차원 제품 목표 분포 하에서 추가 TMCMC의 일차원 제안 분포의 최적 스케일링은 무엇인가?
• RQ2 동일한 목표 분포 하에서 추가 TMCMC의 확산 극한은 랜덤 워크 메트로폴리스와 어떻게 비교되는가?
• RQ3 다양한 목표 밀도 구조에서 추가 TMCMC의 성능를 최적화하는 수락 확률는 무엇인가?
• RQ4 독립 및 종속 파rameter 설정 모두에서 TMCMC는 수렴 속도와 혼합 측면에서 RWMH에 비해 어떻게 성능을 발휘하는가?
• RQ5 복잡한 종속성 구조를 가진 실제 공간 데이터 응용 분야에서 TMCMC는 뛰어난 성능를 유지할 수 있는가?

주요 결과

• 추가 TMCMC의 최적 수락 확률은 i.i.d., 독립 스케일링 및 종속 구조를 포함한 모든 고려된 목표 분포에서 0.439이다.
• 이 최적 수락 확률은 동일한 설정에서 랜덤 워크 메트로폴리스에서 관찰된 0.234보다 훨씬 높아, 더 효율적인 샘플링을 시사한다.
• 모든 시뮬레이션 설정에서, 고차원 및 공간적으로 상관된 모델을 포함해, 추가 TMCMC는 RWMH보다 목표 분포로의 수렴 속도가 훨씬 빠르다.
• RWMH가 낮은 혼합 성능를 보이는 복잡한 종속 파rameter 구조에서도 TMCMC는 뛰어난 성능를 유지한다.
• 시뮬레이션 연구 결과, 모든 테스트 시나리오에서 TMCMC는 RWMH에 비해 더 높은 유효 표본 크기와 낮은 자기상관을 달성한다.
• 확산 극한 분석에서 도출된 이론적 스케일링 규칙은 고차원에서 안정적이고 효율적인 샘플링을 이끄는 실용적 제안 분포를 제공한다.