[논문 리뷰] Efficient stochastic optimisation by unadjusted Langevin Monte Carlo. Application to maximum marginal likelihood and empirical Bayesian estimation

Valentin De Bortoli, Alain Durmus외 2명|arXiv (Cornell University)|2019. 06. 28.

Blind Source Separation Techniques인용 수 4

한 줄 요약

이 논문은 고차원 설정에서 최대 마진 가능도 및 경험베이지안 추정을 위한 효율적인 방법으로 Stochastic Optimisation via Unadjusted Langevin (SOUL)을 제안한다. 기존의 확률적 근사(Stochastic Approximation, SA)에서 사용하는 전통적 MCMC 커널 대신 조정되지 않은 랭귀언 알고리즘을 사용함으로써, SOUL은 기하학적 에르고딕성과 명시적인 수렴 보장을 보장하며, 계산 가능하고 이론적으로 타당한 최적화를 복잡한 모형과 비가역 가능도를 가진 경우에도 스케일러블하게 가능하게 한다.

ABSTRACT

Stochastic approximation methods play a central role in maximum likelihood estimation problems involving intractable likelihood functions, such as marginal likelihoods arising in problems with missing or incomplete data, and in parametric empirical Bayesian estimation. Combined with Markov chain Monte Carlo algorithms, these stochastic optimisation methods have been successfully applied to a wide range of problems in science and industry. However, this strategy scales poorly to large problems because of methodological and theoretical difficulties related to using high-dimensional Markov chain Monte Carlo algorithms within a stochastic approximation scheme. This paper proposes to address these difficulties by using unadjusted Langevin algorithms to construct the stochastic approximation. This leads to a highly efficient stochastic optimisation methodology with favourable convergence properties that can be quantified explicitly and easily checked. The proposed methodology is demonstrated with three experiments, including a challenging application to high-dimensional statistical audio analysis and a sparse Bayesian logistic regression with random effects problem.

연구 동기 및 목표

• 비가역 가능도를 포함한 고차원 문제에서 기존의 확률적 근사(SA) 방법의 확장성 한계를 해결한다.
• 특히 기하학적 에르고딕성과 캘리브레이션 곤란으로 인해 고차원 MCMC 커널을 SA 체계에 통합하는 데서 발생하는 이론적 및 방법론적 과제를 해결한다.
• 조정되지 않은 랭귀언 알고리즘을 활용하여 개선된 수렴성과 계산 효율성을 확보한 스케일러블하고 이론적으로 타당한 SA 프레임워크를 개발한다.
• 오디오 분석 및 랜덤 효과를 포함한 희소 베이지안 로지스틱 회귀와 같은 고차원 문제에서 방법의 효과성을 입증한다.

제안 방법

• 최대 마진 가능도 추정을 위한 SA에서 기존의 MCMC 방법을 대체하기 위해 조정되지 않은 랭귀언 MCMC 커널을 기반으로 한 SA 체계를 제안한다.
• 메트로폴리스 조정 기반 방법에 비해 쉽게 검증 가능한 기하학적 에르고딕성 조건과 더 단순한 캘리브레이션을 제공하는 조정되지 않은 랭귀언 알고리즘을 활용한다.
• 최적화 문제를 정규화 항이 포함된 로그가능도 함수의 최대화로 설정하며, 기울기는 조정되지 않은 랭귀언 샘플링을 통해 근사한다.
• 균일한 드리프트 조건과 마이너라이제이션 조건을 만족하는 랭귀언 커널에 대해 미약한 조건 하에서 이론적 수렴을 확립하여 SA 반복의 안정성과 수렴성을 보장한다.
• 랭귀언 커널의 기하학적 에르고딕성을 측정하기 위해 리아푸노프 함수 $ V $ 를 도입하고, 매개변수 및 스텝 사이즈 변화에 대한 마코프 전이 커널 민감도에 대한 명시적 경계를 유도한다.
• 다른 매개변수와 스텝 사이즈 하에서 전이 커널 간의 쿨백-라이블러 발산을 경계함으로써 SA 반복의 수렴 속도에 대한 이론적 보장을 제공한다.

실험 결과

연구 질문

• RQ1 조정되지 않은 랭귀언 MCMC 커널이 고차원 모형에서 스케일러블한 최적화를 가능하게 하기 위해 확률적 근사 프레임워크 내에서 효과적으로 활용될 수 있는가?
• RQ2 확률적 근사 맥락에서 조정되지 않은 랭귀언 커널의 기하학적 에르고딕성과 안정성을 보장하는 이론적 조건은 무엇인가?
• RQ3 표준 SA 체계에서 메트로폴리스 조정 MCMC 커널을 사용하는 경우와 비교해, 제안된 SOUL 방법의 수렴 성질은 어떻게 다른가?
• RQ4 SOUL 방법은 고차원 설정에서 명시적이고 확인 가능한 이론적 경계를 통해 신뢰할 수 있는 수렴을 달성할 수 있는가?
• RQ5 오디오 분석 및 희소 베이지안 로지스틱 회귀와 같은 도전적인 고차원 문제에서 SOUL의 실증 성능은 어떠한가?

주요 결과

• 잠재함수의 미약한 정규성 조건 하에서 제안된 SOUL 방법은 랭귀언 커널의 기하학적 에르고딕성을 확보하여 안정적이고 효율적인 샘플링을 가능하게 한다.
• 전이 커널 간의 쿨백-라이블러 발산에 대한 명시적 이론적 경계를 도출하여, 커널이 매개변수 및 스텝 사이즈 변화에 민감도가 제어 가능하고 스텝 사이즈가 감소함에 따라 감소함을 보여준다.
• 표준 가정 하에서 SA 반복이 진짜 최대 마진 가능도 해로 수렴함을 보장하며, 이 수렴 속도는 명시적으로 정량화될 수 있다.
• 수치 실험을 통해 SOUL은 고차원 설정에서 표준 SA 방법보다 뛰어난 성능을 보이며, 1000차원 오디오 분석 작업과 랜덤 효과를 포함한 희소 베이지안 로지스틱 회귀 문제에서 모두 효과적임을 입증한다.
• 이론적 분석을 통해 조정되지 않은 랭귀언 커널이 균일한 마이너라이제이션 및 드리프트 조건을 만족함을 확인하여, 기하학적 에르고딕성과 수렴성 확립에 핵심적인 역할을 함을 확인한다.
• 이 방법은 고차원 매개변수 공간에 대해 강건하며, 메트로폴리스 조정 MCMC가 확률적 근사에서 야기하는 캘리브레이션 곤란을 피한다.