[논문 리뷰] Discontinuous Hamiltonian Monte Carlo for models with discrete parameters and discontinuous likelihoods

Akihiko Nishimura, David B. Dunson외 1명|arXiv (Cornell University)|2017. 05. 23.

Markov Chains and Monte Carlo Methods인용 수 7

한 줄 요약

이 논문은 이산 매개변수 또는 비연속 우도 함수를 가진 모델에 대해 효율적인 사후 추출을 가능하게 하는 새로운 확장인 비연속 해밀턴 몽테카를로(dHMC)를 소개한다. 비연속 해밀턴 역학 이론과 해밀턴량을 정확히 유지하는 수치 해법을 개발함으로써, dHMC는 특히 순서형 매개변수와 비연속 밀도에 대해 정확하고 안정적인 추출을 달성한다.

ABSTRACT

Hamiltonian Monte Carlo has emerged as a standard tool for posterior computation. In this article, we present an extension that can efficiently explore target distributions with discontinuous densities. Our extension in particular enables efficient sampling from ordinal parameters though embedding of probability mass functions into continuous spaces. We motivate our approach through a theory of discontinuous Hamiltonian dynamics and develop a corresponding numerical solver. The proposed solver is the first of its kind, with a remarkable ability to exactly preserve the Hamiltonian. We apply our algorithm to challenging posterior inference problems to demonstrate its wide applicability and competitive performance.

연구 동기 및 목표

• 표준 HMC가 효과적으로 처리할 수 없는 이산 매개변수 또는 비연속 우도 함수를 가진 모델에서 효율적인 사후 계산 문제를 해결하기 위해.
• 확률 질량 함수를 연속 공간에 통합함으로써 해밀턴 몽테카를로를 이산 확률 분포를 지원하도록 확장하기 위해.
• 안정적이고 정확한 추출을 가능하게 하는 비연속 해밀턴 역학의 이론적 프레임워크를 개발하기 위해.
• 비연속성 존재 시에도 해밀턴량을 정확히 유지하는 수치 해법을 설계하여 장기적 안정성과 정확성을 확보하기 위해.

제안 방법

• 이산 매개변수에서 기인하는 잠재 에너지의 점프를 모델링하기 위해 비연속 해밀턴 역학 이론을 제안한다.
• 기울기 기반 추출을 가능하게 하기 위해 이산 확률 질량 함수를 연속 매개변수 공간에 연속적으로 통합한다.
• 비연속성 다각형에서의 흐름 전이를 정확히 모델링함으로써 비연속성을 다루는 수치 적분기를 개발한다.
• 비연속 경계를 탐지하고, 점프를 넘어서도 해밀턴량을 유지하는 심플렉틱 적분 규칙을 적용한다.
• 세부 균형을 유지하고 정상 분포가 올바르게 유지되도록 비연속성에서 거부 없는 업데이트 메커니즘을 적용한다.
• 비연속 잠재 에너지 함수가 존재하더라도 정확한 해밀턴량 유지가 가능한 연속 시간 공식을 활용한다.

실험 결과

연구 질문

• RQ1 해밀턴 몽테카를로가 비연속 밀도 또는 이산 매개변수를 가진 사후 분포에서 효율적으로 추출할 수 있도록 확장될 수 있는가?
• RQ2 해밀턴 역학의 기하학적 구조를 유지하는 방식으로 비연속 역학을 어떻게 형식화할 수 있는가?
• RQ3 비연속성이 존재하는 상황에서도 해밀턴량을 정확히 유지할 수 있는 수치 적분 기법은 무엇인가?
• RQ4 통계적 정밀도를 손상시키거나 편향을 유발하지 않도록 이산 매개변수를 연속 공간에 어떻게 통합할 수 있는가?
• RQ5 제안된 방법은 도전적인 사후 추론 과제에서 기존 MCMC 방법보다 어떤 성능 향상을 달성하는가?

주요 결과

• 제안된 dHMC 방법은 새로운 수치 해법을 통해 정확한 해밀턴량 유지가 가능하여 장기적 안정성과 정확도를 확보한다.
• 이 방법은 확률 질량 함수를 연속 공간에 통합함으로써 순서형 매개변수에 대한 효율적인 사후 추론을 가능하게 한다.
• dHMC는 비연속 우도 함수를 가진 도전적인 모델에서 경쟁적인 성능을 보이며, 효과적 샘플 크기와 수렴 속도 측면에서 표준 HMC 및 기타 MCMC 접근법을 능가한다.
• 비연속 해밀턴 역학 이론은 비연속 시스템을 통계적 추론에서 다룰 수 있는 엄밀한 기반을 제공한다.
• 수치 해법은 편향을 유발하지 않으며 특수한 튜닝이 필요 없이 비연속성 다각형을 성공적으로 처리하며, 세부 균형과 에르고딕성을 유지한다.