[논문 리뷰] Discontinuous Hamiltonian Monte Carlo for sampling discrete parameters

Akihiko Nishimura, David B. Dunson외 1명|arXiv (Cornell University)|2017. 05. 23.

Markov Chains and Monte Carlo Methods참고 문헌 6인용 수 8

한 줄 요약

이 논문은 이산적 또는 비연속적인 목표 밀도를 가진 모델—특히 순서형 매개변수—에 대해 효율적인 베이지안 사후 추출을 가능하게 하는 새로운 방법인 비연속 해밀턴 몽테카를로(dHMC)를 소개한다. 이 방법은 질량 함수를 연속 공간에 통합함으로써 작동하며, 해밀턴량을 정확히 유지하는 특수한 수치 해법을 사용하여 비연속 사후분포를 가진 어려운 추론 문제에서 뛰어난 성능을 발휘한다.

ABSTRACT

Hamiltonian Monte Carlo has emerged as a standard tool for posterior computation. In this article, we present an extension that can efficiently explore target distributions with discontinuous densities. Our extension in particular enables efficient sampling from ordinal parameters though embedding of probability mass functions into continuous spaces. We motivate our approach through a theory of discontinuous Hamiltonian dynamics and develop a corresponding numerical solver. The proposed solver is the first of its kind, with a remarkable ability to exactly preserve the Hamiltonian. We apply our algorithm to challenging posterior inference problems to demonstrate its wide applicability and competitive performance.

연구 동기 및 목표

• 이산적 또는 비연속적인 목표 밀도를 가진 베이지안 모델에서 효율적인 사후 추출을 해결하기 위해.
• 기존의 HMC 변종이 효과적으로 추출할 수 없는 비연속 밀도를 가진 분포를 다룰 수 있도록 해밀턴 몽테카를로(HMC)를 확장하기 위해.
• 순서형 매개변수에서의 효율적 추출을 가능하게 하기 위해 그 확률 질량 함수를 연속 공간에 통합하기 위해.
• 비연속성 존재 시에도 정확히 해밀턴량을 유지하는 비연속 해밀턴 역학을 위한 수치 해법을 개발하기 위해.
• 비연속 사후분포를 가진 실제 응용 문제에 대한 광범위한 적용 가능성과 경쟁 가능한 성능을 입증하기 위해.

제안 방법

• 이 방법은 특히 순서형 매개변수를 위한 이산 확률 질량 함수를 연속 매개변수 공간에 통합하여 부드러운 해밀턴 역학을 가능하게 한다.
• 비연속 해밀턴 역학의 이론을 도입하여, 비연속성 경계를 넘는 시스템의 진동을 일반화된 힘 항목으로 모델링한다.
• 비연속성 존재 시 잠재 에너지 함수의 비연속성을 다룰 수 있는 새로운 수치 적분기법을 설계하여, 비연속성에도 불구하고 정확히 해밀턴량을 유지한다.
• 이 적분기는 비연속성 경계를 식별하기 위한 이벤트 탐지 기능을 사용하고, 이러한 지점에서 적절한 심플렉틱 업데이트를 적용하여 에너지 보존을 유지한다.
• 대상 밀도의 구조를 활용하여 정확한 불변 측도를 유지하는 연속 해밀턴 시스템을 정의한다.
• 비연속성 인식 보정 단계를 포함한 심플렉틱 적분기를 사용하여 연속 역학을 통합함으로써, 에르고딕성과 세부 균형을 보장한다.

실험 결과

연구 질문

• RQ1 해밀턴 몽테카를로는 비연속 밀도를 가진 사후분포에서 효율적으로 추출할 수 있는가?
• RQ2 이산 매개변수, 특히 순서형 매개변수는 어떻게 연속 공간에 통합되어 해밀턴 역학을 가능하게 할 수 있는가?
• RQ3 잠재 에너지의 비연속성 존재 시에도 정확히 해밀턴량을 유지할 수 있는 수치 적분 기법은 무엇인가?
• RQ4 제안된 방법은 비연속 사후분포에서 표준 HMC나 다른 이산 샘플러보다 더 나은 혼합성과 수렴성을 달성하는가?
• RQ5 이 방법은 복잡한 비연속 사후 분포를 가진 실제 응용 문제에 적용 가능한가?

주요 결과

• 제안된 dHMC 방법은 비연속 밀도를 가진 사후분포, 특히 순서형 매개변수에서 유래한 분포에서 효율적인 추출을 성공적으로 가능하게 한다.
• 수치 해법은 비연속성 경계를 넘어 정확히 해밀턴량을 유지하여 안정적이고 정확한 궤적 통합을 이룬다.
• 표준 HMC가 비연속성으로 인해 실패하는 어려운 사후 추론 문제에서 경쟁적인 성능을 보여준다.
• 이산 질량 함수를 연속 공간에 통합함으로써 기존에 추정이 어려운 이산 대상에 대해 기울기 기반 MCMC 방법을 적용할 수 있다.
• 실제 모델에서 비연속 사후분포를 가진 경우 양호한 혼합성과 수렴성을 달성하였으며, 유효 표본 크기와 계산 효율성 측면에서 다른 접근법보다 뛰어난 성능을 보였다.