[논문 리뷰] Proximal-Proximal-Gradient Method

Ernest K. Ryu, Wotao Yin|arXiv (Cornell University)|2017. 08. 23.

Sparse and Compressive Sensing Techniques참고 문헌 52인용 수 28

한 줄 요약

이 논문은 다양한 미분 가능하고 비미분 가능한 볼록 함수의 합을 포함한 대규모 문제를 효율적으로 다룰 수 있는 새로운 1차 최적화 알고리즘인 프록시멀-프록시멀-그래디언트 방법(PPG)을 소개한다. 이 방법은 결합된 항과 분離 불가능한 항을 포함한 문제를 직접적으로, 스텝사이즈에 종속되지 않게 최적화할 수 있으며, 강한 볼록성과 리프시츠 연속 기울기 조건 하에서 Q-선형 수렴을 달성한다. 이는 병렬 및 분산 계산 환경에서 매우 적합하다.

ABSTRACT

In this paper, we present the proximal-proximal-gradient method (PPG), a novel optimization method that is simple to implement and simple to parallelize. PPG generalizes the proximal-gradient method and ADMM and is applicable to minimization problems written as a sum of many differentiable and many non-differentiable convex functions. The non-differentiable functions can be coupled. We furthermore present a related stochastic variation, which we call stochastic PPG (S-PPG). S-PPG can be interpreted as a generalization of Finito and MISO over to the sum of many coupled non-differentiable convex functions. We present many applications that can benefit from PPG and S-PPG and prove convergence for both methods. A key strength of PPG and S-PPG is, compared to existing methods, its ability to directly handle a large sum of non-differentiable non-separable functions with a constant stepsize independent of the number of functions. Such non-diminishing stepsizes allows them to be fast.

연구 동기 및 목표

• 비미분 가능하고, 가능하면 결합된 볼록 함수의 합이 큰 문제를 직접 다룰 수 있는 단순하고 확장 가능한 1차 최적화 방법을 개발하는 것.
• 프록시멀-그래디언트 및 ADMM와 같은 기존 방법을 일반화하여, 비미분 가능한 항의 합이 프록시멀이 불가능한 문제에 직접 최적화할 수 있도록 하는 것.
• 함수의 수에 종속되지 않는 일정한 스텝사이즈를 지원하여 수렴 속도를 높이는 방법을 설계하는 것.
• 대규모 및 스트리밍 데이터 환경에 적합한 확률적 변형(S-PPG)으로의 확장.
• 수렴성 증명과 실증적 효능을 입증하며, 특히 병렬 및 GPU 가속 환경에서의 성능을 강조하는 것.

제안 방법

• PPG는 min r(x) + (1/n)∑(fi(x) + gi(x)) 형태의 최적화 문제를 해결하며, fi는 미분 가능하고, gi, r은 볼록이며 프록시멀이 가능하다.
• 알고리즘은 세 단계의 순차적 업데이트를 사용한다: x^{k+1/2}는 z_i^k의 평균에 대해 r의 프록시멀 연산자로 계산; x_i^{k+1}은 기울기 스텝 후 gi의 프록시멀로 계산; z_i^{k+1}은 일致성 업데이트로 계산.
• 이 방법은 자연스럽게 병렬화 가능하다: z_i 업데이트는 워커 간 독립적으로 수행되며, x^{k+1/2}는 평균을 계산하기 위해 all-reduce가 필요하다.
• 이 방법은 함수의 수 n에 종속되지 않는 일정한 스텝사이즈 α를 지원하여, 감소하는 스텝사이즈를 요구하는 방법보다 더 빠른 수렴을 가능하게 한다.
• 확률적 변형인 S-PPG는 Finito와 MISO를 비분리 가능한 비미분 함수의 합을 다룰 수 있도록 일반화한다.
• 수렴 분석은 원시-이중 변수 z와 하위기울기 항을 포함하는 리아푸노프 함수를 활용하며, 최적성 조건을 기록하기 위해 함수 S(z, z*)를 사용하여 오차의 엄밀한 상한과 하한을 유도한다.

실험 결과

연구 질문

• RQ1 비미분 가능하고 상호작용이 있는 볼록 함수가 많은 대규모 최적화 문제를 효율적으로 해결할 수 있는 1차 방법이 존재하는가?
• RQ2 이러한 방법이 함수의 수에 종속되지 않는 일정한 스텝사이즈를 유지함으로써 더 빠른 수렴을 달성할 수 있는가?
• RQ3 이 방법은 어떻게 자연스럽게 병렬화되어 분산 또는 GPU 가속 환경에 적합하게 설계될 수 있는가?
• RQ4 이 방법은 Finito와 MISO를 비분리 가능한 비미분 항으로 일반화하는 확률적 변형으로 확장될 수 있는가?
• RQ5 어떤 조건에서 이 방법이 Q-선형 수렴을 달성하는가?

주요 결과

• 문제가 강한 볼록성과 리프시츠 연속 기울기 조건을 만족할 경우, PPG는 Q-선형 수렴을 달성하며, 수렴 속도는 ∥zk+1 − z∗∥ ≤ √(1 − 2αC)∥zk − z∗∥로 표현된다.
• 이 방법은 함수의 수 n에 종속되지 않는 일정한 스텝사이즈 α를 지원하여, 감소하는 스텝사이즈를 요구하는 방법보다 더 빠른 수렴을 가능하게 한다.
• 하위기울기 항 S(z, z*)를 포함하는 리아푸노프 함수를 통해 수렴이 증명되며, 오차의 상한과 하한이 엄밀하게 유도된다.
• 확률적 변형인 S-PPG는 Finito와 MISO를 비분리 가능한 비미분 함수의 합을 다룰 수 있도록 일반화하여 적용 범위를 넓힌다.
• CUDA GPU에서의 실증 결과는 병렬 환경에서의 방법의 실증적 효율성과 확장성을 입증한다.
• 비미분 항의 결합으로 인해 O(nd)의 저장 복잡도가 본질적으로 필요하며, PPG는 이 정보를 효율적으로 활용하여 최적성의 정당성을 확인한다.