[논문 리뷰] A Hitting Time Analysis of Stochastic Gradient Langevin Dynamics

Yuchen Zhang, Percy Liang외 1명|arXiv (Cornell University)|2017. 02. 18.

Stochastic Gradient Optimization Techniques참고 문헌 24인용 수 65

한 줄 요약

본 논문은 비볼록 최적화에서 SGLD를 분석하고, 제한된 체저 상수(restricted Cheeger constants)를 이용한 히팅타임 프레임워크를 도입하여, 모집단 위험(population risk)의 근사 로컬 최소에 대한 다항시간 수렴을 증명하고 Massart 잡음 하에서 0-1 손실 학습가능성을 개선한다.

ABSTRACT

We study the Stochastic Gradient Langevin Dynamics (SGLD) algorithm for non-convex optimization. The algorithm performs stochastic gradient descent, where in each step it injects appropriately scaled Gaussian noise to the update. We analyze the algorithm's hitting time to an arbitrary subset of the parameter space. Two results follow from our general theory: First, we prove that for empirical risk minimization, if the empirical risk is point-wise close to the (smooth) population risk, then the algorithm achieves an approximate local minimum of the population risk in polynomial time, escaping suboptimal local minima that only exist in the empirical risk. Second, we show that SGLD improves on one of the best known learnability results for learning linear classifiers under the zero-one loss.

연구 동기 및 목표

• 비볼록 경험적 위험 최소화에서 얕은 국소최소를 탈출하기 위한 SGLD 연구의 동기를 부여한다.
• 제한된 Cheeger 상수를 기반으로 한 비점근(non-asymptotic) 히팅타임 분석을 도입한다.
• 목적 함수의 작은 섭동에 따른 히팅타임의 안정성을 보인다.
• 이 프레임워크를 경험적 위험 최소화에 적용하고 Massart 잡음하에서 0-1 손실을 갖는 선형 분류기의 학습가능성 결과를 개선한다.

제안 방법

• 온도 매개변수로 스케일된 가우시안 잡음과 확률적 그래디언트를 갖는 SGLD를 정의한다.
• 히팅타임, f의 기하학, 안정성을 연결하는 척도로서 제한된 Cheeger 상수를 도입한다.
• 히팅타임을 제한된 Cheeger 상수와 관련짓는 일반적인 비점근 경계(정리 1)를 증명한다.
• 목적의 기하학적 특성에 의해 제한된 Cheeger 상수의 하한을 제시한다(정리 2 및 3).
• 경험적 위험의 매끄럽힘을 이용해 모집단 위험과의 관계를 설정하고 보증의 전달을 확립한다(정리 2).
• 이 프레임워크를 0-1 손실을 갖는 선형 분류기의 학습에 적용하여 학습가능성 결과를 개선한다.

실험 결과

연구 질문

• RQ1 비볼록 경험적 위험 지형에서 SGLD가 얕은 국소최소를 다항시간 내에 탈출할 수 있는가?
• RQ2 제한된 Cheeger 상수가 히팅타임과 섭동하에서의 안정성을 어떻게 좌우하는가?
• RQ3 매끄럽게 한 경험적 위험에서 실행될 때 SGLD가 모집단 위험의 근사 로컬최소를 찾는 조건은 무엇인가?
• RQ4 Massart 잡음 하에서 0-1 손실을 갖는 선형 분류기에 대한 학습가능성 경계가 SGLD에 의해 개선되는가?

주요 결과

• SGLD에서 목표 집합으로의 히팅타임은 제한된 Cheeger 상수를 통해 문제 및 알고리즘 매개변수에 의해 유한하고 다항식으로 한정된다.
• 경험적 위험이 모집단 위험에 균일하게 근접할 때 SGLD는 모집단 위험의 근사 로컬최소를 다항시간 내에 찾을 수 있다.
• 히팅타임 경계는 목적 함수의 작은 균일 섭동 하에서도 안정적이며, 경험적 위험에서 모집단 위험으로의 전달을 가능하게 한다.
• SGLD는 0-1 손실 하에서 Massart 잡음을 0.5 아래의 상수까지 다루며 선형 분류기의 학습가능성 결과를 강화한다.
• 비매끄러운 경험적 위험에 대한 평활화 접근법은 제로원 손실을 포함한 광범위한 손실에 프레임워크를 적용할 수 있게 한다.
• 결과들은 f의 기하학적 특성과 최적화 역학 간의 관계를 통해 비볼록 최적화와 통계적 학습을 하나로 통합한다.