[논문 리뷰] A primal-dual algorithm with optimal stepsizes and its application in decentralized consensus optimization

Zhi Li, Ming Yan|arXiv (Cornell University)|2017. 11. 18.

Sparse and Compressive Sensing Techniques참고 문헌 18인용 수 12

한 줄 요약

이 논문은 미분 가능하고 $ l^* $ 가 미분 가능할 때 형식 $ f(x) + h \square l(Ax) $ 의 복합 함수를 최소화하기 위한 향상된 원시-이중 알고리즘을 제안한다. 약한 조건 하에서 최적의 이중 스텝사이즈를 사용하여 수렴성을 확립하고, 추가 가정 하에 선형 수렴성을 증명하며, 분산 합의 최적화에 적용하여 EXTRA 및 PG-EXTRA에 대해 이전에 알려진 바보다 더 큰 최적 스텝사이즈를 도출한다.

ABSTRACT

We consider a primal-dual algorithm for minimizing $f(x)+h(Ax)$ with differentiable $f$. The primal-dual algorithm has two names in literature: Primal-Dual Fixed-Point algorithm based on the Proximity Operator (PDFP$^2$O) and Proximal Alternating Predictor-Corrector (PAPC). In this paper, we extend it to solve $f(x)+h\square l(Ax)$ with differentiable $l^*$ and prove its convergence under a weak condition (i.e., under a large dual stepsize). With additional assumptions, we show its linear convergence. In addition, we show that this condition is optimal and can not be weaken. This result recovers the recent proposed positive-indefinite linearized augmented Lagrangian method. Then we consider the application of this primal-dual algorithm in decentralized consensus optimization. We show that EXact firsT-ordeR Algorithm (EXTRA) and Proximal Gradient-EXTRA (PG-EXTRA) can be consider as the primal-dual algorithm applied on a problem in the form of $h\square l(Ax)$. Then, the optimal upper bound of the stepsize for EXTRA/PG-EXTRA is derived. It is larger than the existing work on EXTRA/PG-EXTRA. Furthermore, for the case with strongly convex functions, we proved linear convergence under the same condition for the stepsize.

연구 동기 및 목표

• 원시-이중 알고리즘 PDFP$^2$O/PAPC를 $ f(x) + h \square l(Ax) $ 형태의 복합 함수를 다룰 수 있도록 확장하고, $ l^* $ 가 미분 가능할 경우에 적용 가능하게 한다.
• 큰 이중 스텝사이즈를 허용하는 약한 조건 하에서 수렴성을 확립하고, 이 조건이 최적이며 더 이상 약화될 수 없음을 증명한다.
• 분산 합의 알고리즘인 EXTRA 및 PG-EXTRA의 스텝사이즈에 대한 최적 상한을 유도한다.
• 동일한 최적 스텝사이즈 조건 하에서 강凸 함수일 경우 선형 수렴성을 증명한다.

제안 방법

• 알고리즘은 보편 연산자를 기반으로 한 원시-이중 고정점 반복으로 구성되며, $ f(x) + h \square l(Ax) $ 를 다룰 수 있도록 확장되었고, $ l^* $ 가 미분 가능할 경우 적용된다.
• 큰 이중 스텝사이즈를 허용하는 약한 조건 하에서 수렴성이 증명되었으며, 이 조건이 이론적 분석을 통해 최적이며 더 이상 약화될 수 없음을 입증된다.
• 알고리즘은 $ h \square l(Ax) $ 의 구조를 활용하여 분산 합의 문제를 모델링한다.
• 문제를 $ h \square l(Ax) $ 형태로 재구성함으로써 분산 합의 최적화에 적용하고, EXTRA 및 PG-EXTRA를 특수한 경우로 분석할 수 있도록 한다.
• 강凸성 등의 추가 가정 하에 동일한 최적 스텝사이즈 조건 하에서 선형 수렴성이 확립된다.
• 분석을 통해 양-부정적 선형화된 보조라그랑주 방법이 특수한 경우로 복원됨을 확인하여 최근의 발전과의 일관성을 입증한다.

실험 결과

연구 질문

• RQ1 원시-이중 알고리즘은 $ l^* $ 가 미분 가능할 경우 $ h \square l(Ax) $ 를 포함한 복합 함수를 다룰 수 있는가?
• RQ2 알고리즘이 수렴하기 위해 필요한 이중 스텝사이즈에 대한 가장 약한 조건은 무엇인가?
• RQ3 유도된 수렴 조건이 최적이며, 더 이상 약화시킬 수 있는가?
• RQ4 이 알고리즘은 EXTRA 및 PG-EXTRA와 같은 기존의 분산 합의 방법과 어떻게 관련이 있는가?
• RQ5 EXTRA 및 PG-EXTRA의 스텝사이즈에 대한 최적 상한은 무엇이며, 강凸 문제에서 이 상한 이하일 경우 선형 수렴성이 성립하는가?

주요 결과

• 제안된 원시-이중 알고리즘은 큰 이중 스텝사이즈를 허용하는 약한 조건 하에서 수렴하며, 이 조건이 최적이며 더 이상 약화될 수 없음을 증명하였다.
• 목적 함수가 강凸일 경우 동일한 최적 스텝사이즈 조건 하에서 선형 수렴성을 달성하였다.
• EXTRA 및 PG-EXTRA의 스텝사이즈에 대한 최적 상한이 유도되었고, 이는 이전 연구들보다 더 큰 값을 가짐을 입증하였다.
• EXTRA 및 PG-EXTRA는 $ h \square l(Ax) $ 형태의 문제에 적용된 제안된 원시-이중 알고리즘의 특수한 사례로 공식적으로 해석되었다.
• 분석을 통해 양-부정적 선형화된 보조라그랑주 방법이 특수한 경우로 복원되었으며, 최근의 발전과의 일관성을 확인하였다.