[논문 리뷰] Dimensionally Tight Bounds for Second-Order Hamiltonian Monte Carlo

Oren Mangoubi, Nisheeth K. Vishnoi|arXiv (Cornell University)|2018. 02. 24.

Markov Chains and Monte Carlo Methods인용 수 28

한 줄 요약

이 논문은 강한 로그-볼록 분포에서 샘플링할 때, 헤시안에 약한 세계계수 정규성 조건이 존재하는 두 번째 차수 히스테리시스 몬테카를로(HMC)에 대해 차원적으로 날카로운 O*(d^{1/4}) 경계를 확립한다. 저자들은 이전의 리프슈츠 헤시안 기반 경계보다 더 빠른 수렴을 가능하게 하는 새로운 정규성 가정을 도입하였으며, 특히 비일관성 있는 데이터를 가진 베이지안 로지스틱 회귀에서 뛰어난 성능을 보이며, 시뮬레이션을 통해 정확도와 기울기 효율성 측면에서의 향상을 검증하였다.

ABSTRACT

Hamiltonian Monte Carlo (HMC) is a widely deployed method to sample from high-dimensional distributions in Statistics and Machine learning. HMC is known to run very efficiently in practice and its popular second-order "leapfrog" implementation has long been conjectured to run in $d^{1/4}$ gradient evaluations. Here we show that this conjecture is true when sampling from strongly log-concave target distributions that satisfy a weak third-order regularity property associated with the input data. Our regularity condition is weaker than the Lipschitz Hessian property and allows us to show faster convergence bounds for a much larger class of distributions than would be possible with the usual Lipschitz Hessian constant alone. Important distributions that satisfy our regularity condition include posterior distributions used in Bayesian logistic regression for which the data satisfies an "incoherence" property. Our result compares favorably with the best available bounds for the class of strongly log-concave distributions, which grow like $d^{{1}/{2}}$ gradient evaluations with the dimension. Moreover, our simulations on synthetic data suggest that, when our regularity condition is satisfied, leapfrog HMC performs better than its competitors -- both in terms of accuracy and in terms of the number of gradient evaluations it requires.

연구 동기 및 목표

• 고차원 샘플링에서 레프트로프 HMC가 O*(d^{1/4}) 기울기 평가가 필요하다는 오랫동안 남아있던 추측을 해결하는 것.
• 리프슈츠 헤시안보다 더 약한 헤시안 정규성 조건을 개발하여 더 넓은 분포 클래스에 대해 더 날카로운 경계를 가능하게 하는 것.
• 이 정규성 조건이 베이지안 로지스틱 회귀에서 중요한 통계 모델(비일관성 있는 데이터를 가진 사후 분포)에서 자연스럽게 성립함을 보여주는 것.
• 이론적 향상이 시뮬레이션을 통해 정확도와 기울기 효율성 측면에서 뛰어난 성능을 보이며 실제로 반영됨을 검증하는 것.

제안 방법

• 헤시안의 변동을 HMC 궤적의 일반적인 이동 방향에서만 제한하는 새로운 정규성 조건(가정 1)을 도입한다.
• 확률적 쌍화 기법을 사용하여 냉각 또는 따뜻한 시작 상태에서 HMC 체인의 혼합 시간을 경계한다.
• ODE 비교 정리와 리아프누프 함수를 사용하여 레프트로프 적분기와 이상적인 해밀토니안 흐름 사이의 편차를 분석한다.
• 헤시안 차이에 대한 새로운 무한노름 리프슈츠 조건을 사용하여 레프트로프 적분기의 오차 경계를 유도하며, 이는 고차원에서 표준 유클리드 노름보다 더 날카롭다.
• 새로운 정규성 조건 하에서 레프트로프 HMC 알고리즘의 기울기 평가에 대해 차원적으로 날카로운 O*(d^{1/4}) 경계를 확립한다.
• 합성 데이터와 로지스틱 회귀에서 유클리드 노름과 무한노름 리프슈츠 조건 하에서 HMC 성능을 비교하는 시뮬레이션을 수행한다.

실험 결과

연구 질문

• RQ1 약한 헤시안 정규성 조건 하에서 강한 로그-볼록 목표 함수에 대해 레프트로프 HMC 알고리즘이 O*(d^{1/4}) 기울기 평가가 필요한가?
• RQ2 이 새로운 정규성 조건이 베이지안 로지스틱 회귀의 사후 분포와 같은 중요한 통계 모델에서 성립하는가?
• RQ3 헤시안 차이에 대한 무한노름 리프슈츠 조건이 표준 유클리드 조건보다 적분기 오차와 기울기 평가 비용을 더 잘 경계하는가?
• RQ4 이론적 수렴 속도 향상이 합성 데이터 및 실제 데이터 예제에서의 경험적 성능에 반영되는가?

주요 결과

• 논문은 강력한 로그-볼록 목표 함수에 대해 새로운 약한 세계계수 정규성 조건을 만족하는 경우, 레프트로프 HMC가 최대 O*(d^{1/4}) 기울기 평가가 필요하다는 것을 증명한다.
• 새로운 정규성 조건은 리프슈츠 헤시안 성질보다 엄밀히 더 약하며, 데이터가 비일관성 조건을 만족할 경우 베이지안 로지스틱 회귀의 사후 분포에서 성립한다.
• 시뮬레이션 결과, 새로운 정규성 조건 하에서 HMC는 특히 고차원에서 정확도와 기울기 평가 수량 측면에서 경쟁자들을 능가하는 성능을 보인다.
• 헤시안 차이에 대한 무한노름 리프슈츠 조건은 표준 유클리드 조건보다 훨씬 날카로운 오차 경계를 이끌어내며, 이는 중앙값 √L∞r^{1/4}∥pt∥∞,u가 √L2∥pt∥2보다 차원에 따라 더 천천히 증가하는 것으로 나타났다.
• 이론적 경계는 차원적으로 날카로우며, 리프슈츠 헤시안 가정 하에서 알려진 최선의 O*(d^{1/2}) 경계를 향상시킨다.
• 결과는 메트로폴리스 조정 HMC(MHMC)가 ε^{-1}에 대해 다항로그 수준의 기울기 평가만 필요로 할 수 있음을 시사하지만, 수락/기각 단계에서의 쌍화 문제로 인해 아직도 열린 문제이다.