[논문 리뷰] Delayed rejection schemes for efficient Markov-Chain Monte-Carlo sampling of multimodal distributions

Miquel Trias, A. Vecchio외 1명|ArXiv.org|2009. 04. 14.

Bayesian Methods and Mixture Models참고 문헌 25인용 수 13

한 줄 요약

이 논문은 고차원 파rameter 공간에서 고립된 모드로 인해 표준 MCMC 방법이 실패하는 다모달 분포를 효율적으로 샘플링하기 위해 다단계를 거치는 완전히 마르코프성인 지연 거부 MCMC 알고리즘을 제안한다. 이전의 체인 히스토리에 기반한 적응형 다단계 제안 메커니즘을 도입함으로써, 병렬 체인이나 온도 조절을 필요로 하지 않고도 혼합 성능을 크게 향상시키고, 랜덤 워크 행동을 감소시키며 높은 수용률을 달성한다. 복잡한 우도 구조에서 효과적으로 작동한다.

ABSTRACT

A number of problems in a variety of fields are characterised by target distributions with a multimodal structure in which the presence of several isolated local maxima dramatically reduces the efficiency of Markov Chain Monte Carlo sampling algorithms. Several solutions, such as simulated tempering or the use of parallel chains, have been proposed to facilitate the exploration of the relevant parameter space. They provide effective strategies in the cases in which the dimension of the parameter space is small and/or the computational costs are not a limiting factor. These approaches fail however in the case of high-dimensional spaces where the multimodal structure is induced by degeneracies between regions of the parameter space. In this paper we present a fully Markovian way to efficiently sample this kind of distribution based on the general Delayed Rejection scheme with an arbitrary number of steps, and provide details for an efficient numerical implementation of the algorithm.

연구 동기 및 목표

• 고립된 모드에 갇히는 체인이 발생하는 고차원 다모달 분포에서 표준 MCMC 방법의 비효율성을 해결하기 위해.
• 병렬 체인이나 시뮬레이션 온도 조절의 계산적 오버헤드를 피하기 위한 완전히 마르코프성인 샘플링 전략을 개발하기 위해.
• 퇴행성과 국소적인 '섬' 형태의 높은 사후 밀도 영역이 존재하는 매개변수 공간에서 혼합 성능과 탐색 능력을 향상시키기 위해.
• 모드 크기의 사전 지식을 활용하여 임의의 단계 수를 가진 지연 거부의 수치적 효율적인 구현을 제공하기 위해.
• 복잡한 8차원 우도 구조를 가진 실제 중력파 데이터 분석 문제에 대해 본 방법의 효과성을 입증하기 위해.

제안 방법

• 이 방법은 임의의 단계 수를 가진 일반적인 지연 거부 기반의 스킴을 사용하며, 각 반복에서 다중 제안 시도를 허용한다.
• 각 단계는 서로 다른 위치에 중심을 둔 제안 분포를 사용하며, 이전 체인 히스토리에 기반해 적응하는 중심 제안을 포함한다.
• 후속 단계에서 이전에 거부된 이동을 바탕으로 제안을 정밀화하는 계층적 제안 메커니즘을 사용하여 먼 모드의 탐색을 향상시킨다.
• 로그 정규화 혼합 밀도의 분석적 근사치를 사용해 제안 밀도 비율을 계산하며, 이는 3개의 가우시안 성분 모델에서 유도된다.
• 제안 함수와 평가 함수의 비대칭성을 고려하며, 다양한 비일치 조건 하에서 기대 로그 밀도 비율에 대한 분석적 표현을 유도한다.
• 모드 간격이 모드 폭을 초과할 경우 유효한 근사치를 사용하여 핵심 매개변수에 집중함으로써 고차원 문제를 다룰 수 있는 수치적 구현을 설계한다.

실험 결과

연구 질문

• RQ1 다단계를 거치는 완전히 마르코프성인 지연 거부 스킴이 고차원 다모달 분포에서 표준 MCMC보다 우수한 성능을 보일 수 있는가?
• RQ2 고립된 모드가 존재하는 상황에서 다중 제안 단계의 포함 여부가 혼합 성능과 수용률에 어떤 영향을 미치는가?
• RQ3 제안 중심과 목표 모드 중심 간의 비일치(예: 이동된 평균)가 다모달 샘플링에서 지연 거부의 효율성에 어떤 영향을 미치는가?
• RQ4 제안 밀도 비율의 분석적 근사치를 사용하여 고차원 MCMC에서 수치적 안정성과 효율성을 향상시킬 수 있는가?
• RQ5 모드 크기의 사전 지식이 복잡한 우도 구조에서 지연 거부의 성능 향상에 얼마나 기여하는가?

주요 결과

• 다단계 지연 거부 스킴은 고차원 다모달 분포에서 혼합 성능을 크게 향상시키고 랜덤 워크 행동을 감소시킨다.
• 단일 제안 MCMC보다 더 먼 모드를 효과적으로 탐색할 수 있는 적응형 다단계 제안을 통해 높은 수용 확률을 달성한다.
• 제안 밀도 비율의 기대값에 대한 분석적 표현을 유도하여 전체 수치적 통합 없이도 효율적인 계산을 가능하게 하였다.
• 특히 중심 제안이 잘 일치할 경우, 제안 중심과 목표 중심 간의 중간 정도의 비일치에 대해서도 성능이 강인하다.
• 국소적인 '섬' 형태의 높은 사후 밀도 영역이 존재하는 고차원 문제에서 표준 MCMC와 시뮬레이션 온도 조절보다 본 방법이 뛰어난 성능을 보였다.
• 모의 8차원 중력파 우도에 대한 수치적 검증을 통해, 특히 분리된 모드가 존재하는 영역에서 탐색 능력과 수렴 성능이 향상됨을 확인하였다.