[논문 리뷰] Probabilistic Path Hamiltonian Monte Carlo

Vu Dinh, Arman Bilge외 2명|arXiv (Cornell University)|2017. 02. 25.

Topological and Geometric Data Analysis인용 수 12

한 줄 요약

이 논문은 복잡하고 조합 구조를 가진 공간, 예를 들어 계통수 공간과 같은 곳에서 표본을 추출하기 위한 새로운 HMC 확장인 확률적 경로 해밀턴 몽테카를로(PPHMC)를 소개한다. 유클리드 직각좌표계에서의 레프트로그 통합과 경계에서의 확률적 위상 전이, 그리고 서면 스무딩 함수를 결합함으로써 PPHMC는 높은 수용률과 비연속 사후 분포의 효율적 탐색을 달성하며, 시뮬레이션 및 실제 계통수 데이터에서 뛰어난 성능을 보였다.

ABSTRACT

Hamiltonian Monte Carlo (HMC) is an efficient and effective means of sampling posterior distributions on Euclidean space, which has been extended to manifolds with boundary. However, some applications require an extension to more general spaces. For example, phylogenetic (evolutionary) trees are defined in terms of both a discrete graph and associated continuous parameters; although one can represent these aspects using a single connected space, this rather complex space is not suitable for existing HMC algorithms. In this paper, we develop Probabilistic Path HMC (PPHMC) as a first step to sampling distributions on spaces with intricate combinatorial structure. We define PPHMC on orthant complexes, show that the resulting Markov chain is ergodic, and provide a promising implementation for the case of phylogenetic trees in open-source software. We also show that a surrogate function to ease the transition across a boundary on which the log-posterior has discontinuous derivatives can greatly improve efficiency.

연구 동기 및 목표

• 계속성 있는 다양체가 아니며 전역적으로 미분 가능성이 없는 계통수 공간과 같은 복잡한 조합 구조를 가진 공간으로 해밀턴 몽테카를로(HMC)를 확장하는 것.
• 트리 공간에서 사후 분포의 로그-사후분포가 위상 경계를 넘어서서 연속적이지 않은 도함수를 가질 때의 표본 추출 문제를 해결하는 것.
• 트리 공간을 접합된 유클리드 성분으로 모델링하는 오르탄트 복합체에서 이론적으로 타당하고 에르고딕인 마르코프 체인을 개발하는 것.
• 비연속적인 사후 기울기를 가진 고차원의 '피크가 강한' 사후 분포에서 표본 추출 효율성을 높이기 위해 비가속성 사후 기울기를 위한 서면 스무딩 함수를 도입하는 것.

제안 방법

• PPHMC는 트리 공간의 각 오르탄트(유클리드 성분) 내에서 표준 레프트로그 통합 단계를 수행하며, 이는 고정된 트리 위상에 해당한다.
• 오르탄트 간 경계—다른 트리 위상 간 전이를 나타냄—에서 PPHMC는 이웃한 위상들 중에서 무작위로 균일하게 선택함으로써 확률적 가역성을 유지한다.
• 이 방법은 키워드 HMC 성질을 유지한다: 확률적 시간 가역성, 체적 보존, 그리고 접근 가능성으로, 이는 결과 마르코프 체인이 에르고딕이 되도록 보장한다.
• 비연속 도함수가 있는 영역에서 사후 분포를 근사하기 위해 서면 스무딩 함수를 도입하여 더 긴 레프트로그 궤적과 높은 수용률을 가능하게 한다.
• 서면 함수는 비연속성이 있는 영역 근처에서 잠재 에너지 함수를 스무딩함으로써, 진짜 사후분포가 비가속성일지라도 안정적이고 효율적인 해밀턴 역학을 허용한다.
• 알고리즘은 오픈소스 소프트웨어로 구현되었으며, 수용률과 경로 길이를 최적화하기 위해 스텝 크기와 스무딩 임계값에 대해 격자 탐색을 통해 튜닝되었다.

실험 결과

연구 질문

• RQ1 계속성 없는 다양체이자 조합적으로 복잡한 구조를 가진 공간, 예를 들어 계통수 공간과 같은 곳으로 HMC를 확장할 수 있는가?
• RQ2 다른 위상 성분 간 경계에서 무작위 선택을 하는 HMC 유사 알고리즘의 경우, 에르고딕성이 어떻게 확립될 수 있는가?
• RQ3 서면 스무딩 함수가 사후 분포의 도함수가 비연속일 때 HMC의 표본 추출 효율성을 크게 향상시킬 수 있는가?
• RQ4 서면 함수는 고차원의 '피크가 강한' 사후 분포에서 얼마나 오랜 레프트로그 궤적과 더 높은 수용률을 가능하게 하는가?

주요 결과

• 시뮬레이션 데이터에서 PPHMC는 약 0.68의 평균 수용률을 기록하여 Neal(2011)이 제안한 목표 수용률 0.65에 근접하였다.
• DS4 실질 데이터 세트에서, 서면 스무딩을 적용한 PPHMC는 정확한 PPHMC 대비 약 10배 큰 스텝 크기를 유지하면서도 높은 수용률을 유지하였다.
• 스텝 크기 ε=0.0008일 때, 서면 스무딩을 적용한 PPHMC는 힉빈 플롯에서 정확한 PPHMC보다 훨씬 더 긴 궤적과 더 많은 위상 전이(NNI 이동)를 기록하였다.
• 최적의 스무딩 임계값은 DS4 데이터 세트에서 δ ≈ 2ε로 확인되었으며, 이는 다양한 파rameter 설정에서 평균 수용률을 최대화하였다.
• 서면 함수는 표준 HMC가 위상 경계에서 비연속 도함수로 인해 실패하는 '피크가 강한' 사후 분포에서도 안정적이고 효율적인 표본 추출을 가능하게 하였다.
• PPHMC의 구현은 시뮬레이션 및 실제 계통수 데이터 모두에서 효과적인 사후 표본 추출을 보였으며, MrBayes에서의 기준 결과와 일관된 결과를 도출하였다.