[논문 리뷰] Stochastic Methods for Composite Optimization Problems

John C. Duchi, Feng Ruan|arXiv (Cornell University)|2017. 03. 24.

Stochastic Gradient Optimization Techniques참고 문헌 20인용 수 22

한 줄 요약

이 논문은 매끄럽지 않은 볼록 함수와 매끄러운 함수의 복합 형태로 이루어진 비정규성 목적함수를 최소화하기 위해 확률적 프록시-선형 및 서브기울기 알고리즘을 제안한다. 온건한 조건 하에서, 이 방법들은 1차 정류점으로 수렴하며, 비정규성 위상 복구 문제에 대한 실증적 검증을 통해 실용적 효과성을 입증한다.

ABSTRACT

We consider minimization of stochastic functionals that are compositions of a (potentially) non-smooth convex function $h$ and smooth function $c$ and, more generally, stochastic weakly-convex functionals. We develop a family of stochastic methods---including a stochastic prox-linear algorithm and a stochastic (generalized) sub-gradient procedure---and prove that, under mild technical conditions, each converges to first-order stationary points of the stochastic objective. We provide experiments further investigating our methods on non-smooth phase retrieval problems; the experiments indicate the practical effectiveness of the procedures.

연구 동기 및 목표

• 비정규성 볼록 함수와 매끄러운 함수의 복합 형태로 이루어진 목적함수를 최소화하는 데 도전하는 것.
• 약凸성과 비정규성 함수 기능을 갖는 확률적 환경에서 작동할 수 있는 강력한 확률적 최적화 방법을 개발하는 것.
• 온건한 기술적 조건 하에서 1차 정류점으로의 수렴 보장을 확립하는 것.
• 실제 비정규성 문제들, 예를 들어 위상 복구 문제에서 제안된 방법들의 실용적 성능을 평가하는 것.

제안 방법

• 논문은 매끄러운 성분의 선형화를 이용해 복합 목적함수를 반복적으로 근사하고, 비정규성 성분에 대해 프록시 스텝을 수행하는 확률적 프록시-선형 알고리즘을 제안한다.
• 약凸성 확률적 목적함수를 다루기 위해 확률적 일반화 서브기울기 절차를 개발하였으며, 랜덤 설정에서 서브기울기 정보를 활용한다.
• 이 방법들은 함수 및 서브기울기 평가가 노이즈가 섞여 있지만 일정한 모멘트 조건을 만족하는 확률적 오라클 모델에 기반한다.
• 수렴 분석은 유한한 기울기와 매끄러운 성분의 리프시츠 연속성 등의 가정에 의존하며, 이는 1차 정류점으로의 수렴을 보장한다.
• 이 프레임워크는 볼록성과 약凸성 목적함수를 모두 수용하여, 표준적인 매끄럽거나 강한 볼록 설정을 초월한 적용 가능성을 넓힌다.
• 이론적 분석은 마링게일 차분 수열과 거의 확실한 수렴 논증을 사용하여 기대값과 거의 확실한 수렴을 확립한다.

실험 결과

연구 질문

• RQ1 복합 비정규성 확률적 목적함수에 대해 확률적 프록시-선형 방법이 1차 정류점으로 수렴할 수 있는가?
• RQ2 확률적 서브기울기 절차는 약凸성 확률적 함수 기능에서 어떻게 작동하는가?
• RQ3 복합적이고 비정규성 최적화 환경에서 확률적 알고리즘의 수렴을 보장하는 조건은 무엇인가?
• RQ4 제안된 방법들은 비정규성 위상 복구 문제에서 실용적으로 어떻게 비교되는가?

주요 결과

• 확률적 프록시-선형 알고리즘은 기울기 유한성과 매끄러운 성분의 리프시츠 연속성과 같은 온건한 기술적 조건 하에서 1차 정류점으로 수렴한다.
• 확률적 일반화 서브기울기 방법 역시 약凸성 확률적 목적함수에 대해 1차 정류점으로 수렴한다.
• 비정규성 위상 복구 문제에 대한 실증 결과는 두 방법 모두 실용적으로 효과적이며 노이즈에 강건함을 보여준다.
• 기대값과 거의 확실한 수렴 모두 이론적 분석에 기반하여 마링게일 수렴 기법을 사용해 보장된다.