[논문 리뷰] Stochastic Quasi-Newton Langevin Monte Carlo

Umut Şimşekli, Roland Badeau외 2명|arXiv (Cornell University)|2016. 02. 10.

Markov Chains and Monte Carlo Methods참고 문헌 43인용 수 15

한 줄 요약

이 논문은 제한된 메모리 BFGS 업데이트를 사용하여 역헤시안을 근사함으로써 베이지안 추론에서 샘플링 효율성을 향상시키는 확률적 준뉴턴 랭지에브 몬테카를로 방법인 헤시안 근사 MCMC(HAMCMC)를 제안한다. 국소 곡률 정보를 선형 시간 및 메모리 복잡도로 통합함으로써, HAMCMC는 합성 및 실제 행렬 분해 작업 모두에서 SGLD, PSGLD, DSGLD보다 더 빠른 수렴 속도를 달성하면서도 점근적 일致성과 낮은 계산 오버헤드를 유지한다.

ABSTRACT

Recently, Stochastic Gradient Markov Chain Monte Carlo (SG-MCMC) methods have been proposed for scaling up Monte Carlo computations to large data problems. Whilst these approaches have proven useful in many applications, vanilla SG-MCMC might suffer from poor mixing rates when random variables exhibit strong couplings under the target densities or big scale differences. In this study, we propose a novel SG-MCMC method that takes the local geometry into account by using ideas from Quasi-Newton optimization methods. These second order methods directly approximate the inverse Hessian by using a limited history of samples and their gradients. Our method uses dense approximations of the inverse Hessian while keeping the time and memory complexities linear with the dimension of the problem. We provide a formal theoretical analysis where we show that the proposed method is asymptotically unbiased and consistent with the posterior expectations. We illustrate the effectiveness of the approach on both synthetic and real datasets. Our experiments on two challenging applications show that our method achieves fast convergence rates similar to Riemannian approaches while at the same time having low computational requirements similar to diagonal preconditioning approaches.

연구 동기 및 목표

• 대상 사후분포가 차원 간 강한 상관관계 또는 척도 차이를 보일 경우, 일반적인 스위치 그래디언트 몬테카를로(SG-MCMC)의 낮은 혼합률을 해결하기 위해.
• 리만 기반 방법(예: SGRLD)의 높은 계산 비용 없이 사후분포의 국소 기하학적 구조를 포착할 수 있는 확장 가능한 MCMC 방법을 개발하기 위해.
• 대각 예측조건화(예: PSGLD)의 효율성과 준뉴턴 업데이트를 통한 전체 헤시안 기반 예측조건화의 정확성을 결합하기 위해.
• 고차원 설정에서 선형 시간 및 메모리 복잡도를 유지하면서도 점근적 일치성과 편향 없는 성질을 확보하기 위해.

제안 방법

• 이 방법은 스위치 준뉴턴 프레임워크를 사용하여, 샘플과 그들의 스위치 그래디언트의 제한된 역사 정보를 바탕으로 음의 로그사후분포의 역헤시안을 근사한다.
• M이 메모리 크기이고 D가 차원 수일 때, 시간 및 메모리 복잡도가 O(MD)인 L-BFGS 알고리즘을 사용하여 조밀한 헤시안 근사를 유지한다.
• 샘플러는 헤시안 근사를 랭지에브 확산 SDE의 드리프트 항에 통합하여 국소 곡률을 반영한다.
• 형식적인 포커-플랑크 방정식 분석에서 유도된 알고리즘으로, 진정한 사후분포와 점근적 일치성을 보장한다.
• 데이터 분할 및 메시지 전달 프로토콜을 사용하여 분산 설정으로 확장되었으며, 차원에 대해 선형적인 통신 복잡도를 유지한다.
• 기대 피셔 정보 매트릭스의 해석적 계산을 피함으로써 더 넓은 범위의 모델에 적용 가능하게 한다.

실험 결과

연구 질문

• RQ1 리만 기반 방법의 계산 비용 없이 준뉴턴 기반의 헤시안 근사가 SG-MCMC의 혼합률 향상에 기여할 수 있는가?
• RQ2 고차원, 상관관계가 강한 사후분포에서, 조밀한 헤시안 근사는 대각 예측조건화보다 더 빠른 수렴을 이끌 수 있는가?
• RQ3 제안된 방법은 선형 시간 및 메모리 복잡도를 유지하면서도 점근적 편향 없는 성질을 유지할 수 있는가?
• RQ4 기존의 확장 가능한 MCMC 방법과 비교해 볼 때, HAMCMC는 분산 환경에서 어떻게 성능을 발휘하는가?

주요 결과

• MovieLens 1M 데이터셋에서 HAMCMC는 DSGLD 및 PSGLD보다 더 빠른 수렴 속도를 보이며, 유사한 계산 비용으로 더 낮은 테스트 RMSE를 달성한다.
• 분산 행렬 분해 환경에서 HAMCMC는 PSGLD 및 DSGLD보다 더 빠른 수렴 속도를 보였고, 선형 통신 복잡도를 유지했다.
• 방법은 점근적으로 일치하고 편향이 없으며, PSGLD는 지속적인 편향을 유발하는 보정 항을 기각하기 때문에 이와는 다르다.
• SGRLD(리만 기반 방법)에 가까운 성능을 달성했지만, 효율적인 헤시안 근사를 통해 훨씬 낮은 계산 오버헤드를 기록했다.
• L-BFGS의 사용은 O(MD) 복잡도로 조밀한 곡률 근사를 가능하게 하여 고차원 문제에 대한 확장성을 확보했다.
• 실험 결과 HAMCMC가 사후분포의 강한 상관관계와 척도 차이를 효과적으로 다루며, 등방성 및 대각 예측조건화 접근법보다 뛰어난 성능을 발휘함을 확인했다.