[논문 리뷰] A Linearly Convergent Proximal Gradient Algorithm for Decentralized Optimization

Sulaiman A. Alghunaim, Kun Yuan외 1명|arXiv (Cornell University)|2019. 05. 20.

Distributed Control Multi-Agent Systems참고 문헌 54인용 수 33

한 줄 요약

이 논문은 공통 비매끄러운 규제(non-smooth regularizer)를 갖는 proximal gradient 분산 알고리즘을 소개하고, 스무스한 부분의 강볼록성하에서 글로벌 선형 수렴을 증명한다. 또한 EXTRA로의 확장을 위한 간결한 분석을 제공하고, R=0일 때의 속도/스텝사이즈 통찰을 제시한다.

ABSTRACT

Decentralized optimization is a powerful paradigm that finds applications in engineering and learning design. This work studies decentralized composite optimization problems with non-smooth regularization terms. Most existing gradient-based proximal decentralized methods are known to converge to the optimal solution with sublinear rates, and it remains unclear whether this family of methods can achieve global linear convergence. To tackle this problem, this work assumes the non-smooth regularization term is common across all networked agents, which is the case for many machine learning problems. Under this condition, we design a proximal gradient decentralized algorithm whose fixed point coincides with the desired minimizer. We then provide a concise proof that establishes its linear convergence. In the absence of the non-smooth term, our analysis technique covers the well known EXTRA algorithm and provides useful bounds on the convergence rate and step-size.

연구 동기 및 목표

• 에이전트 간 공통 비매끄러운 규제가 있는 분산 합성 최적화를 동기화한다.
• 고정점이 글로벌 최소해와 일치하도록 proximal gradient 분산 알고리즘을 설계한다.
• 집합적 스무스 부분의 강볼록성 하에서 글로벌 선형 수렴을 증명한다.
• 비매끄 항이 없을 때 기존 EXTRA와의 호환성과 수렴 통찰을 도출한다.

제안 방법

• 네트워크 행렬 A를 사용한 합의 제약이 있는 constrained 최적화 문제로 분산 문제를 형식화한다.
• saddle-point 재형식화와 업데이트 (10a)-(10c)를 갖는 proximal primal-dual diffusion (P2D2) 알고리즘을 도출한다.
• R의 proximal 연산자를 (14)처럼 사용하고 단일 보조 벡터 Z를 업데이트하는 분산 구현으로 전환한다.
• 이웃과의 로컬 커뮤니케이션만 필요로 하는 구체적인 per-agent 절차 (P2D2) (15)를 제공한다.
• 글로벌 해의 고정점 존재성과 고유성을 확보한다( Lemma 1 ).
• 보강된 비용과 B-구조화된 페널티 및 하강 불평등(Lemmas 2–4)을 활용하는 선형 수렴 증명 프레임워크를 개발한다.

실험 결과

연구 질문

• RQ1 비공통 비매끄러운 규제가 있는 분산 proximal gradient 방법이 글로벌 최적해로 선형 수렴을 달성할 수 있는가?
• RQ2 스무스 부분과 스텝-사이즈에 대한 어떤 조건에서 분산 설정에서 선형 수렴이 성립하는가?
• RQ3 제안된 방법이 비매끄 항이 없을 때 기존 알고리즘인 EXTRA와 어떻게 관계하고 특수화되는가?
• RQ4 분석에 의해 시사되는 수렴 속도 및 스텝-사이즈의 경계는 무엇인가?

주요 결과

• proximal primal-dual diffusion (P2D2) 알고리즘은 Assumption 1과 적절한 스텝-사이즈 조건 하에서 글로벌 최소해로 선형 수렴한다.
• 글로벌 해에 대응하는 고정점의 존재성 및 고유성이 확립된다(Lemma 1).
• R=0일 때 이 방법은 EXTRA와 관련된 형태로 축소되며, 분석은 속도 관련 경계 및 스텝-사이즈 가이던스를 제공한다.
• B-페널티를 갖는 보강된 비용 프레임워크는 제한적 강볼록성을 유도하여 선형 수렴 보장을 가능하게 한다(Lemma 2).
• 하강 및 오차 경계가 도출되어 반복자 오차를 수축계수와 연결하고 주요 선형 수렴 결과로 이어진다(Lemmas 3–4).