[논문 리뷰] Nonconvex sampling with the Metropolis-adjusted Langevin algorithm

Oren Mangoubi, Nisheeth K. Vishnoi|arXiv (Cornell University)|2019. 02. 22.

Markov Chains and Monte Carlo Methods참고 문헌 23인용 수 7

한 줄 요약

이 논문은 비볼록 및 약한 로그-볼록 샘플링 설정에서 메트로폴리스 조정 랑주르 알고리즘(MALA)의 수렴 경계를 향상시켰으며, 잠재적 함수의 3차 및 4차 정규성 조건을 분석하여 에너지 보존 오차를 분석함으로써 이를 달성한다. 저자들은 데이터에 대한 비일관성과 정규성 가정 하에, 베이지안 로지스틱 회귀 및 제로-원 손실 최적화와 같은 적용 사례에서 MALA가 차원 d에 대해 비선형적 의존도를 가지며, 경쟁 방법보다 더 빠른 혼합 속도를 달성함을 보여준다.

ABSTRACT

The Langevin Markov chain algorithms are widely deployed methods to sample from distributions in challenging high-dimensional and non-convex statistics and machine learning applications. Despite this, current bounds for the Langevin algorithms are slower than those of competing algorithms in many important situations, for instance when sampling from weakly log-concave distributions, or when sampling or optimizing non-convex log-densities. In this paper, we obtain improved bounds in many of these situations, showing that the Metropolis-adjusted Langevin algorithm (MALA) is faster than the best bounds for its competitor algorithms when the target distribution satisfies weak third- and fourth- order regularity properties associated with the input data. In many settings, our regularity conditions are weaker than the usual Euclidean operator norm regularity properties, allowing us to show faster bounds for a much larger class of distributions than would be possible with the usual Euclidean operator norm approach, including in statistics and machine learning applications where the data satisfy a certain incoherence condition. In particular, we show that using our regularity conditions one can obtain faster bounds for applications which include sampling problems in Bayesian logistic regression with weakly convex priors, and the nonconvex optimization problem of learning linear classifiers with zero-one loss functions. Our main technical contribution in this paper is our analysis of the Metropolis acceptance probability of MALA in terms of its "energy-conservation error," and our bound for this error in terms of third- and fourth- order regularity conditions. Our combination of this higher-order analysis of the energy conservation error with the conductance method is key to obtaining bounds which have a sub-linear dependence on the dimension $d$ in the non-strongly logconcave setting.

연구 동기 및 목표

• 비볼록 및 약한 로그-볼록 분포에서 랑주르 알고리즘의 느린 수렴 문제를 해결하기 위해.
• 고차원, 비강한 로그-볼록 설정에서 기존 경쟁 방법을 초월하여 MALA의 혼합 시간 경계를 향상시키기 위해.
• 대상 분포에 대한 3차 및 4차 정규성 조건을 도입하여 더 날카운 수렴 보장을 수립하기 위해.
• 기계학습 및 통계 문제에서 ULA 및 RWM에 비해 MALA의 실용적 이점을 입증하기 위해.
• 데이터에 대한 비일관성과 부드러움 가정 하에 MALA의 더 빠른 수렴에 대한 이론적 기반을 제공하기 위해.

제안 방법

• 에너지 보존 오차에 기반한 메트로폴리스 수락 확률을 분석하며, 잠재 에너지와 운동 에너지 오차로 분해한다.
• 잠재 함수의 기울기와 헤시안에 대한 고차 정규성 조건(3차 및 4차)을 도입한다.
• 혼합 및 도달 시간을 유한하게 하기 위해 도전성 기반 분석을 사용하며, 이를 체이저 상수와 상태 공간의 기하적 성질과 연결한다.
• 혼합 시간 경계를 확보하기 위해 에너지 오차 경계와 함께 도전성 방법을 적용하여 차원 d에 대한 비선형적 의존도를 달성한다.
• 출구 확률을 제어하고 빠른 혼합을 보장하기 위해 '좋은 집합' 구성 기법을 사용한다.
• 핸슨-드라이트 부등식을 활용하여 마코프 체인 단계에서 가우시안 편향의 尾행동을 제어한다.

실험 결과

연구 질문

• RQ1 MALA는 비볼록, 약한 로그-볼록 샘플링 문제에서 ULA 및 RWM과 같은 경쟁 알고리즘보다 더 빠른 수렴을 달성할 수 있는가?
• RQ2 잠재 함수에 대한 고차 정규성 조건(3차 및 4차)은 표준 연산자 노름 가정에 비해 수렴 경계를 어떻게 향상시키는가?
• RQ3 베이지안 로지스틱 회귀 및 제로-원 손실 최적화에 MALA를 적용할 때 데이터의 비일관성이 수행하는 역할은 무엇인가?
• RQ4 에너지 보존 오차 분석을 통해 비강한 로그-볼록 설정에서 차원 d에 대한 비선형적 의존도를 MALA가 달성할 수 있는가?
• RQ5 MALA가 정확도 ε에 대해 로그적 의존도를 가지며 지수 수렴을 달성하는 조건은 무엇인가?

주요 결과

• 비볼록 설정에서 샘플링을 위한 MALA의 혼합 시간 경계는 Õ(d^{25/6} q_0^{-11/3} sin^{-4/3}(α_0) log(c/δ) log(β/δ))이며, 차원 d에 대해 비선형적 의존도를 가진다.
• 3차 및 4차 정규성 조건을 활용함으로써, MALA는 약한 로그-볼록 분포에서 ULA 및 RWM보다 더 빠른 수렴을 달성한다.
• 약한 볼록 사전을 가진 베이지안 로지스틱 회귀에서, 개선된 정규성 조건은 유클리드 연산자 노름 기반 경계보다 더 날카운 경계를 가능하게 한다.
• 제로-원 손실 최적화에서, 비일관성과 부드러움 가정 하에 MALA는 전역 최적해 근처에서 효율적인 샘플링을 가능하게 하며 더 빠른 수렴을 달성한다.
• 에너지 보존 오차는 고차 도함수를 통해 유한하게 제어되며, 이는 더 날카운 도전성 기반 혼합 시간 분석을 가능하게 한다.
• 분석 결과, 유도된 조건 하에서 MALA의 수락 확률은 높게 유지되며(≥1/3), 이는 빠른 혼합과 향상된 수렴 속도를 지원한다.