[논문 리뷰] Multiple projection MCMC algorithms on submanifolds

Tony Lelièvre, Gabriel Stoltz외 1명|arXiv (Cornell University)|2020. 03. 20.

Markov Chains and Monte Carlo Methods참고 문헌 48인용 수 7

한 줄 요약

이 논문은 다중 투영 Markov Chain Monte Carlo (MCMC) 알고리즘을 제안하여 약속된 다중다양체 위의 확률 분포를 샘플링한다. 기존 방법을 일반화하여 투영 단계에서 다중 해를 허용한다. 주요 기여는 다중 투영이 존재할 경우에도 정확한 샘플링을 보장하는 엄밀한 가역성 조건을 제시한 것이다. 이는 효율성 향상과 거리가 먼 이동을 가능하게 하되 기각률을 증가시키지 않음으로써 가능하다.

ABSTRACT

We propose new Markov Chain Monte Carlo algorithms to sample probability distributions on submanifolds, which generalize previous methods by allowing the use of set-valued maps in the proposal step of the MCMC algorithms. The motivation for this generalization is that the numerical solvers used to project proposed moves to the submanifold of interest may find several solutions. We show that the new algorithms indeed sample the target probability measure correctly, thanks to some carefully enforced reversibility property. We demonstrate the interest of the new MCMC algorithms on illustrative numerical examples.

연구 동기 및 목표

• 약속 조건으로 정의된 다중다양체 위의 확률 분포를 정확하게 샘플링할 수 있는 MCMC 알고리즘을 개발하는 것, 특히 투영 단계에서 다중 해가 발생할 경우를 고려한다.
• 제안 단계에서 다중값 함수를 도입하여 기존의 다중다양체 MCMC 방법을 일반화함으로써 비국소적 이동을 가능하게 한다.
• 다중 투영을 고려한 일반화된 가역성 조건을 통해 상세 균형 조건과 정확한 샘플링을 보장한다.
• RATTLE 적분기와 다중해 투영 처리를 결합하여 제약 조건이 있는 MCMC에서 기하학적 및 해밀턴적 관점을 통합한다.
• 수치 예제를 통해 새로운 알고리즘의 실용적 이점을 입증하며, 기각률 감소와 혼합 성능 향상을 보여준다.

제안 방법

• 제안된 이동이 다중 투영 중 어느 하나를 통해 반전될 수 있는지를 확인하는 일반화된 역투영 검증 절차를 도입하여 상세 균형을 보장한다.
• 위상 공간에서 제약 조건이 있는 해밀턴 역학을 시뮬레이션할 때 해밀턴의 기하학적 구조를 유지하기 위해 RATTLE 유형의 적분기를 사용한다.
• 제안 단계는 약속 다중다양체 위로 다수의 유효한 투영을 가질 수 있는 사상에 의해 후보 점을 생성하며, 이를 다중값 함수로 모델링한다.
• 수용 확률은 가능한 투영의 수와 그 가역성에 따라 조정된 수정된 메트로폴리스-하스팅스 규칙을 사용하여 계산한다.
• 전이 핵심에서 대칭성을 확보함으로써 다중 해가 존재할 경우에도 상세 균형을 유지하며, 신중하게 구성된 가중치 함수를 통해 이를 실현한다.
• 이 방법은 상태 공간 및 위상 공간 공식화 모두에 적용되며, 후자는 운동량 변수와 운동량 반전을 포함하여 상세 균형을 확보한다.

실험 결과

연구 질문

• RQ1 다중다양체 위의 MCMC 알고리즘은 투영 단계에서 다중 해가 존재할 경우에도 정확성을 유지하면서 일반화될 수 있는가?
• RQ2 투영 사상이 다중값일 경우 상세 균형은 어떻게 유지되며, 정확한 목표 측도가 샘플링되는 데 필요한 조건은 무엇인가?
• RQ3 다중 투영을 허용할 경우 기각률과 샘플러의 혼합 효율성에 어떤 영향을 미치는가?
• RQ4 다중 투영을 고려할 때 기하학적 및 해밀턴적 접근 방식의 제약 조건이 있는 MCMC 간의 관계는 어떻게 연결되는가?
• RQ5 모든 가능한 투영이 계산 가능할 경우 역투영 검증을 단순화하거나 제거할 수 있으며, 어떤 조건에서 가능한가?

주요 결과

• 제안된 MCMC 알고리즘은 다중 투영이 존재할 경우에도 일반화된 가역성 조건을 통해 목표 확률 측도를 정확하게 샘플링한다.
• 모든 가능한 투영이 계산 가능한 경우, 역투영 검증은 불필요해지고 오직 투영의 수를 세는 것으로 충분해져 알고리즘의 단순화가 가능하다.
• 알고리즘은 상태 공간 및 위상 공간 공식화 모두에서 상세 균형을 달성하며, 위상 공간 해법은 운동량 반전까지 고려해 가역성을 확보한다.
• 수치 실험 결과, 새로운 알고리즘은 기존의 단일 투영 방법보다 기각률을 감소시키고 더 큰 비국소적 이동을 가능하게 함을 보여준다.
• 이론적 분석을 통해 [46]의 기하학적 접근과 [31]의 해밀턴적 접근 간 깊은 연결 고리가 다중 투영 프레임워크 하에서 통합됨을 밝혀냈다.
• 역가역성 조건이 수용 규칙를 통해 강제로 유지될 경우, 투영 계산의 수치 오차에 대해서도 알고리즘이 강건함을 입증했다.