[논문 리뷰] Stochastic model-based minimization under high-order growth

Damek Davis, Dmitriy Drusvyatskiy외 1명|arXiv (Cornell University)|2018. 07. 01.

Stochastic Gradient Optimization Techniques참고 문헌 29인용 수 13

한 줄 요약

이 논문은 근사 오차와 안정성을 모델링하기 위해 브레그만 발산을 사용하는 확률적 모델 기반 최소화 프레임워크를 제안한다. 고차수 성장 조건 하에서, 정류성 측정치에 대해 수렴 속도 $ O(k^{-1/4}) $ 를 확립하며, 볼록성 조건 하에서는 $ O(k^{-1/2}) $ 로 향상되고, 상대적 강한 볼록성 조건 하에서는 $ \widetilde{O}(k^{-1}) $ 로 향상된다. 이는 확률적 미러 강하법과 정규화된 가우스-뉴턴 방법에 적용된다.

ABSTRACT

Given a nonsmooth, nonconvex minimization problem, we consider algorithms that iteratively sample and minimize stochastic convex models of the objective function. Assuming that the one-sided approximation quality and the variation of the models is controlled by a Bregman divergence, we show that the scheme drives a natural stationarity measure to zero at the rate $O(k^{-1/4})$. Under additional convexity and relative strong convexity assumptions, the function values converge to the minimum at the rate of $O(k^{-1/2})$ and $\widetilde{O}(k^{-1})$, respectively. We discuss consequences for stochastic proximal point, mirror descent, regularized Gauss-Newton, and saddle point algorithms.

연구 동기 및 목표

• 유럽형 노름 대신 브레그만 발산을 사용하여, 국소적으로 리프시츠 연속이 아닌 설정으로까지 확률적 모델 기반 최소화를 확장한다.
• 목적 함수에 대한 고차수 성장 가정 하에서 정류성 측정치의 수렴 속도를 확립한다.
• 비볼록 설정에서 확률적 미러 강하법, 프락시멀 포인트법, 정규화된 가우스-뉴턴 방법의 향상된 수렴 보장을 제공한다.
• 상대적 미세함수성과 볼록성 가정을 활용해, 확률적 미러 강하법에서 미니배치의 필요성을 제거한다.
• 상대적 강한 볼록성과 볼록 모델 하에서 수렴 분석을 수행하여, 더 빠른 $ \widetilde{O}(k^{-1}) $ 수렴 속도를 도출한다.

제안 방법

• 표준 확률적 알고리즘의 이차 프락시멀 항을 레전드르 함수 $ \Phi $ 가 생성하는 브레그만 발산 $ D_{\Phi}(y,x) $ 로 대체한다.
• 확률적 한쪽 모델이 $ \mathbb{E}[f_x(y,\xi) - f(y)] \leq \frac{\tau}{2} D_\Phi(y,x) $ 와 $ f_x(x,\xi) - f_x(y,\xi) \leq L(\xi) \|x-y\|_2 $ 를 만족한다고 가정하여 근사 오차와 변동성을 제어한다.
• 정류성은 $ \| \nabla F^\Phi_\lambda(x) \|_{\Phi} $ 로 측정되는 브레그만 에너지 함수 $ F^\Phi_\lambda(x) = \inf_y \{ F(y) + \frac{1}{\lambda} D_\Phi(y,x) \} 를 통해 분석한다.
• 고차수 성장 조건 하에서 브레그만 기반 분석을 새롭게 도입하여, 정류성에 대해 $ O(k^{-1/4}) $ 와 볼록성 조건 하에서 함수 값에 대해 $ O(k^{-1/2}) $ 의 수렴 속도를 유도한다.
• 적절한 모델과 브레그만 포텐셜을 구성함으로써, 확률적 미러 강하법, 정규화된 가우스-뉴턴법, 안장점 문제에 이 프레임워크를 적용한다.
• 다항식 성장 목표 함수에 적합한 레전드르 함수 $ \Phi $ 를 제안하여, 비리프시츠 설정에서도 수렴 보장을 가능하게 한다.

실험 결과

연구 질문

• RQ1 확률적 모델 기반 최소화가 전역 리프시츠 연속성이 없어도 수렴을 달성할 수 있는가?
• RQ2 유럽형 노름 대신 브레그만 발산으로 근사 오차를 측정할 경우, 어떤 수렴 속도가 달성 가능한가?
• RQ3 고차수 성장 조건은 확률적 모델 기반 방법의 수렴에 어떤 영향을 미치는가?
• RQ4 제안된 프레임워크는 미니배치 없이도 확률적 미러 강하법의 수렴 속도를 향상시킬 수 있는가?
• RQ5 상대적 미세함수성 조건 하에서, 정규화된 확률적 가우스-뉴턴법과 안장점 알고리즘의 수렴 보장은 무엇인가?

주요 결과

• 고차수 성장 조건과 브레그만 기반 근사 가정 하에서, 알고리즘이 브레그만 에너지 함수의 기울기를 $ O(k^{-1/4}) $ 속도로 0으로 이끈다.
• 모델의 볼록성 조건 하에서, 기대 함수 값은 $ O(k^{-1/2}) $ 속도로 수렴한다.
• 정규화자가 $ \Phi $ 에 대해 $ \mu $-강하게 볼록하다면, 수렴 속도는 $ \widetilde{O}(k^{-1}) $ 로 향상된다.
• 이 프레임워크는 이전 연구와 달리, 확률적 미러 강하법에서 기울기의 미니배치가 필요 없이 적용 가능하다.
• 다항식 성장 목표 함수에 적합한 레전드르 함수 $ \Phi $ 가 명시적으로 구성되었으며, 이는 수렴 결과가 유지되도록 한다.
• 적절한 모델 구성으로 인해 분석은 확률적 프락시멀 포인트법, 정규화된 가우스-뉴턴법, 안장점 알고리즘으로 일반화된다.