[논문 리뷰] Inexact and Stochastic Generalized Conditional Gradient with Augmented Lagrangian and Proximal Step

Antonio Silveti-Falls, Cesare Molinari외 1명|arXiv (Cornell University)|2020. 05. 11.

Stochastic Gradient Optimization Techniques참고 문헌 31인용 수 5

한 줄 요약

이 논문은 애फ인 제약 조건을 가진 복합 볼록 최적화 문제를 해결하기 위해 CGALP 알고리즘의 비정확하고 확률적인 변종인 ICGALP을 제안한다. 이 알고리즘은 기울기, 프록시항, 선형 최소화 오라클의 오차 내성 계산을 가능하게 하며, 라그랑주 값의 거의 확실 수렴과 제약 조건 Ax = b의 타당성 확보를 달성한다. 약간의 조건 하에 최적성과 타당성 갭에 대해 O(1/(k+1)^0.24)의 에르고딕 수렴 속도를 확보한다.

ABSTRACT

In this paper we propose and analyze inexact and stochastic versions of the CGALP algorithm developed in [34], which we denote ICGALP, that allow for errors in the computation of several important quantities. In particular this allows one to compute some gradients, proximal terms, and/or linear minimization oracles in an inexact fashion that facilitates the practical application of the algorithm to computationally intensive settings, e.g., in high (or possibly infinite) dimensional Hilbert spaces commonly found in machine learning problems. The algorithm is able to solve composite minimization problems involving the sum of three convex proper lowersemicontinuous functions subject to an affine constraint of the form Ax = b for some bounded linear operator A. Only one of the functions in the objective is assumed to be differentiable, the other two are assumed to have an accessible proximal operator and a linear minimization oracle. As main results, we show convergence of the Lagrangian values (so-called convergence in the Bregman sense) and asymptotic feasibility of the affine constraint as well as strong convergence of the sequence of dual variables to a solution of the dual problem, in an almost sure sense. Almost sure convergence rates are given for the Lagrangian values and the feasibility gap for the ergodic primal variables. Rates in expectation are given for the Lagrangian values and the feasibility gap subsequentially in the pointwise sense. Numerical experiments verifying the predicted rates of convergence are shown as well.

연구 동기 및 목표

• 정확한 기울기, 프록시항 또는 선형 최소화 오라클 계산이 불가능한 고차원 또는 무한차원 볼록 최적화 문제에 대해 실용적인 알고리즘을 개발하기 위해.
• 핵심 구성 요소에서 결정론적 또는 확률적 오차를 허용하면서도 수렴 보장을 유지할 수 있도록 CGALP 알고리즘을 확장하기 위해.
• 라그랑주 값이 최적 값으로 거의 확실하게 수렴하고 애프린 제약 조건 Ax = b가 타당해지는 것을 확립하기 위해.
• 비정확하고 확률적인 설정 하에서 최적성 갭과 타당성 갭에 대한 최악의 수렴 속도를 유도하기 위해.
• 다양한 오차 원천과 배치 크기를 가진 리스크 최소화 및 투영 문제에 대한 수치 실험을 통해 이론적 결과를 검증하기 위해.

제안 방법

• 세 개의 볼록 함수와 애프린 제약 조건을 가진 min_x {f(x) + g(Tx) + h(x) : Ax = b} 문제를 해결하기 위해, ICGALP를 제안한다. 이는 CGALP 알고리즘의 비정확하고 확률적인 확장이다.
• 보정 단계를 포함한 보정 라그랑주를 통한 이중 변수 갱신을 도입하여, 이중 반복값의 약한 수렴을 가능하게 한다.
• 오차 수열의 합계 조건을 만족하는 조건 하에서, ∇f, proxβg 및 선형 최소화 오라클의 비정확한 계산을 확률적 기울기 또는 결정론적 오차를 사용하여 수행한다.
• 세사로 평균화된 반복값(에르고딕 반복값)을 사용하여 전역 수렴 속도를 도출함으로써 노이즈 및 오차에 대한 강건성을 확보한다.
• 스티커스틱 오차의 요구 조건을 만족시키기 위해 분산 감소 및 증가하는 배치 크기를 적용한다.
• 반복값에 의존하지 않는 추상적인 오픈 루프 파rameter 수열을 사용하여 수렴을 확립함으로써 실용적 유연성을 향상시킨다.

실험 결과

연구 질문

• RQ1 CGALP 알고리즘은 기울기, 프록시항 및 선형 최소화 오라클의 비정확하거나 확률적 계산을 허용하면서도 수렴 보장을 유지할 수 있는가?
• RQ2 오차 수열과 알고리즘 파rameter에 대한 어떤 조건이 라그랑주 값이 최적 값으로 거의 확실하게 수렴하고 애프린 제약 조건이 타당해지는지를 보장하는가?
• RQ3 비정확하고 확률적인 설정 하에서 최적성 갭과 타당성 갭에 대한 최악의 수렴 속도는 무엇이며, 정확한 경우와 비교해보면 어떠한가?
• RQ4 실제로 스티커스틱 오차의 요구 조건을 만족시키기 위해 분산 감소나 증가하는 배치 크기를 어떻게 활용할 수 있는가?
• RQ5 비정확한 변종은 원래 CGALP 알고리즘과 동일한 수렴 속도의 파rameter 의존성 유지하는가?

주요 결과

• 핵심 구성 요소의 비정확하거나 확률적 계산 조건 하에서도 라그랑주 값이 최적 값으로 거의 확실하게 수렴한다.
• 원본 반복값은 거의 확실하게 애프린 제약 조건 Ax = b를 만족한다. 이는 한계에서의 타당성을 보장한다.
• 동일한 오차 조건 하에서 이중 반복값은 거의 확실하게 이중 문제의 해로 약한 수렴한다.
• 최적성 갭과 타당성 갭에 대해 O(1/(k+1)^0.24)의 에르고딕 수렴 속도가 확립되었으며, 원래 CGALP 알고리즘의 속도와 일치한다.
• 수치 실험을 통해 결정론적 순환과 스티커스틱 분산 감소 방법 모두에서 예측된 수렴 속도가 확인되었다. 다양한 배치 크기를 사용한 실험에서 동일한 결과를 얻었다.
• 스티커스틱 기울기 및 결정론적 오차와 같은 실용적인 오차 원천을 지원하며, 오차 수열이 합계 조건을 만족할 경우 수렴이 유지됨을 확인했다.