[논문 리뷰] Hamiltonian Monte Carlo using an adjoint-differentiated Laplace approximation: Bayesian inference for latent Gaussian models and beyond

Charles C. Margossian, Aki Vehtari외 2명|arXiv (Cornell University)|2020. 04. 27.

Markov Chains and Monte Carlo Methods참고 문헌 41인용 수 9

한 줄 요약

이 논문은 잠재 가우시안 모델에서 확장 가능한 베이지안 추론을 위한 애드조인트 미분을 적용한 라플라스 근사법을 제안한다. 이는 잠재 가우시안 변수를 마진화함으로써 효율적인 하미르톤 몬테카를로(HMC) 샘플링을 가능하게 하며, 고차원 초모수에 대해 기울기 계산을 수배수로 빠르게 처리한다. 이는 표준 기법보다 뛰어난 성능을 보이며, 약 6,000개의 초모수를 가진 복잡한 모델, 예를 들어 희박한 커널 상호작용 모델에서도 견고한 추론을 가능하게 한다.

ABSTRACT

Gaussian latent variable models are a key class of Bayesian hierarchical models with applications in many fields. Performing Bayesian inference on such models can be challenging as Markov chain Monte Carlo algorithms struggle with the geometry of the resulting posterior distribution and can be prohibitively slow. An alternative is to use a Laplace approximation to marginalize out the latent Gaussian variables and then integrate out the remaining hyperparameters using dynamic Hamiltonian Monte Carlo, a gradient-based Markov chain Monte Carlo sampler. To implement this scheme efficiently, we derive a novel adjoint method that propagates the minimal information needed to construct the gradient of the approximate marginal likelihood. This strategy yields a scalable differentiation method that is orders of magnitude faster than state of the art differentiation techniques when the hyperparameters are high dimensional. We prototype the method in the probabilistic programming framework Stan and test the utility of the embedded Laplace approximation on several models, including one where the dimension of the hyperparameter is $\sim$6,000. Depending on the cases, the benefits can include an alleviation of the geometric pathologies that frustrate Hamiltonian Monte Carlo and a dramatic speed-up.

연구 동기 및 목표

• 잠재 가우시안 모델에서 HMC가 복잡한 사후 분포 기하학으로 인해 어려움을 겪는 계산적 병목 현상을 해결하기 위해.
• 초모수가 고차원일 경우 마진화 가능성이 있는 가능도의 기울기 계산을 효율적으로 수행하기 위해, 이는 확장 가능한 MCMC의 핵심 과제이다.
• 스탠 같은 확률 프로그래밍 프레임워크에서 동적 HMC와 원활하게 통합 가능한 미분 가능한 라플라스 근사법을 개발하기 위해.
• 고차원 모델, 특히 약 6,000개의 초모수를 가진 희박한 커널 상호작용 모델에 대해 이 방법의 유용성을 입증하기 위해.
• 다중 모드 사후 분포에서 변분 추론의 한계를 극복하기 위해, 마진화와 기울기 기반 샘플링을 결합하기 위해.

제안 방법

• 이 방법은 라플라스 근사를 사용하여 잠재 가우시안 변수 θ를 해석적으로 마진화함으로써 사후 분포를 초모수 φ에만 의존하도록 축소한다.
• 기울기의 근사 마진 가능도를 계산하기 위해 필요한 최소한의 정보만 전파하는 새로운 애드조인트 미분 기법을 도입한다.
• 애드조인트 방법은 초모수당 O(1) 연산으로 마진 가능도의 로그 기울기를 계산하며, 차원 증가에 따라 효율적으로 스케일링된다.
• 이 방법은 스탠의 HMC 프레임워크에 통합되어 자동 미분과 동적 적응을 활용하여 견고한 샘플링을 가능하게 한다.
• 이 방법은 최대 약 6,000개의 초모수를 가진 모델, 예를 들어 희박한 커널 상호작용 모델과 호스숄드 사전을 사용한 계층적 회귀 모델에서 검증되었다.
• 라플라스 근사는 HMC 내부에 통합되어, 전체 공동 샘플링의 기하학적 병목 현상을 피하면서도 초모수 공간을 효율적으로 탐색할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 애드조인트 미분을 적용한 라플라스 근사는 고차원 잠재 가우시안 모델에서 기울기 계산의 계산 비용을 크게 줄일 수 있는가?
• RQ2 잠재 가우시안 변수로 인해 복잡한 사후 기하학을 가진 모델에서 제안된 방법이 HMC의 혼합성과 수렴성을 향상시키는가?
• RQ3 에너지 장벽이 중간 정도일 경우, 특히 초모수의 다중 모드 사후 분포를 처리할 수 있는가?
• RQ4 완전한 HMC와 변분 추론에 비해 임베디드 라플라스 근사의 정확성과 계산 효율성은 어떻게 비교되는가?
• RQ5 특히 희박한 커널 상호작용 모델과 같은 모델에서, 초모수 차원 증가에 따라 애드조인트 방법의 스케일링 능력은 어느 정도인가?

주요 결과

• 고차원 초모수에서 표준 기법에 비해 애드조인트 미분을 적용한 라플라스 근사는 기울기 계산 시간을 수배수로 단축시켰다.
• 약 6,000개의 초모수를 가진 희박한 커널 상호작용 모델에서, 이 방법은 0개의 발산 전이를 보이며 성공적인 HMC 샘플링을 가능하게 했고, 전체 HMC는 튜닝 불안정성으로 실패했다.
• 그림 1에 나타낸 바와 같이, 고차원 문제에서 Rasmussen과 Williams 알고리즘 대비 이 방법은 미분 시간을 100배 빠르게 처리했다.
• 임베디드 라플라스 근사는 정규화된 호스숄드 모델에서 전체 HMC와 일치하는 결과를 도출했으며, 반면 ADVI는 사후 분포의 올바른 모드를 포착하지 못했다.
• 다중 모드 사후 분포에서 이 방법은 ADVI가 단일 모드로 붕괴되는 것과는 달리 여러 모드를 성공적으로 탐색했다.
• 이 방법은 동적 적응을 통해 안정적인 HMC 샘플링을 가능하게 했으며, 수동 튜닝이 필요 없었고, 표준 HMC보다 발산 전이가 감소했다.