[논문 리뷰] Optimization assisted MCMC

Ricky Fok, Aijun An외 1명|arXiv (Cornell University)|2017. 09. 09.

Markov Chains and Monte Carlo Methods참고 문헌 13인용 수 3

한 줄 요약

이 논문은 고차원 다모달 분포에서 모드 탐색을 가속화하기 위해 동역학적 기하학적 경로를 통한 전역 최적화와 국소 탐색(예: BFGS)을 통합하는 Optimization-Assisted MCMC 프레임워크를 제안한다. 먼저 공형 변환된 다양체 위의 지오데식 경로를 통해 모드를 탐지하고, 이후 국소 최적화를 통해 정밀도를 높임으로써 MCMC 샘플링의 수렴 속도를 빠르게 하고 편향을 크게 감소시킨다. 평균 추정에서 상대 오차 측면에서 WHMC보다 최대 한 계급 정도 우수한 성능을 보였다.

ABSTRACT

Markov Chain Monte Carlo (MCMC) sampling methods are widely used but often encounter either slow convergence or biased sampling when applied to multimodal high dimensional distributions. In this paper, we present a general framework of improving classical MCMC samplers by employing a global optimization method. The global optimization method first reduces a high dimensional search to an one dimensional geodesic to find a starting point close to a local mode. The search is accelerated and completed by using a local search method such as BFGS. We modify the target distribution by extracting a local Gaussian distribution aound the found mode. The process is repeated to find all the modes during sampling on the fly. We integrate the optimization algorithm into the Wormhole Hamiltonian Monte Carlo (WHMC) method. Experimental results show that, when applied to high dimensional, multimodal Gaussian mixture models and the network sensor localization problem, the proposed method achieves much faster convergence, with relative error from the mean improved by about an order of magnitude than WHMC in some cases.

연구 동기 및 목표

• 고차원 다모달 사후분포에 대한 MCMC 샘플링에서 느린 수렴과 모드 탐색 편향 문제를 해결하기 위해.
• WHMC의 한계, 즉 무작위 시작점에 대한 의존성과 잔여 잠재력 감소를 통한 허구적 모드 생성 문제를 해결하기 위해.
• 샘플링 시작 전에 모드 탐지의 효율성과 정확도를 향상시켜 MCMC 추정치의 실시간 편향을 감소시키기 위해.
• 초기 단계부터 발견되지 않은 모드를 향해 최적화를 이끌어내어 모든 주요 모드를 효과적으로 탐색하도록 유도하기 위해.
• 세부 균형을 유지하면서 더 빠르고 신뢰할 수 있는 수렴을 가능하게 하는 방식으로 MCMC에 전역 최적화를 통합하기 위해.

제안 방법

• 잔여 로그우도에서 유도된 리만다양체 위에서 공형 지오데식을 구성함으로써, 다수의 국소 최대값을 횡단할 수 있는 일차원 경로를 생성한다.
• 이 지오데식 상에서 전역 최적화 전략을 적용하여 샘플링 이전에 주요 모드를 탐지함으로써 중요한 모드를 놓칠 위험을 줄인다.
• 지오데식 상에서 발견된 모드 추정치를 향상시키기 위해 BFGS를 통한 국소 최적화를 적용하여 정확도와 수렴 속도를 향상시킨다.
• 각 발견된 모드 주변의 국소 가우시안 근사값을 추출하여 대상 분포를 수정함으로써 효율적인 샘플링과 모드 분리가 가능해진다.
• 발견된 모드를 활용해 재생 및 제안 분포를 이끄는 방식으로, Wormhole Hamiltonian Monte Carlo (WHMC)에 프레임워크를 통합한다.
• 모드 간 전이를 웜홀 메트릭스를 통해 유도하는 벡터장을 포함한 수정된 리프플로그 적분기를 사용하여 모드 간 거리를 단축시킨다.

실험 결과

연구 질문

• RQ1 지오데식 기반의 전역 최적화 경로는 고차원 다모달 분포에서 다수의 모드를 신뢰성 있게 탐지할 수 있는가?
• RQ2 최적화를 통한 사전 모드 탐지가 MCMC의 샘플링 편향을 줄이고 수렴 속도를 향상시키는가?
• RQ3 평균 및 공분산 추정에서 제안된 방법은 WHMC에 비해 상대 오차 측면에서 어떻게 비교되는가?
• RQ4 공형 기하학과 지오데식 경로의 사용이 잔여 잠재력 방법에서 흔히 발생하는 기울기 소실 문제를 피할 수 있는가?
• RQ5 최적화를 MCMC에 통합함으로써 랜덤 재시작의 필요성을 줄이고 재생 효율성을 향상시킬 수 있는가?

주요 결과

• 제안된 방법은 고차원 다모달 가우시안 혼합 모델에서 WHMC보다 상당히 더 빠른 수렴 속도를 달성했다.
• 시험 케이스에서 평균 추정의 상대 오차가 WHMC 대비 약 한 계급 정도 향상되었다.
• 잔여 잠재력 기반 접근법에서 흔히 발생하는 허구적 모드를 성공적으로 피했다.
• 모든 주요 모드를 샘플링 이전에 탐지함으로써 실시간 편향을 줄이고 사후 추정치의 정확도를 향상시켰다.
• 공형 지오데식의 사용은 다수의 안정성 영역을 효율적으로 횡단할 수 있게 하여 모드 탐지의 효율성을 향상시켰다.
• 웜홀 메트릭스와 수정된 리프플로그 적분기를 통한 WHMC 통합은 해밀토니안 역학을 유지하면서도 모드 간 전이 속도를 가속시켰다.