[논문 리뷰] An Asynchronous Distributed Proximal Gradient Method for Composite Convex Optimization

Necdet Serhat Aybat, Garud Iyengar외 1명|arXiv (Cornell University)|2014. 09. 30.

Sparse and Compressive Sensing Techniques참고 문헌 21인용 수 28

한 줄 요약

이 논문은 각 노드가 비공개 볼록 함수를 보유하고 이웃 노드와만 통신하는 네트워크에서 복합 볼록 최적화를 위한 이방향 분산 프록시멀 그래디언트 방법(DFAL)을 제안한다. 이 방법은 $\mathcal{O}(\log(\epsilon^{-1}))$회의 반복으로 $\epsilon$-최적 및 $\epsilon$-가능해를 달성하며, 각 노드당 $\mathcal{O}(\frac{\psi_{\max}^{1.5}}{d_{\min}} \epsilon^{-1})$회의 프록시멀 그래디언트 계산을 수행한다. 그래프 라플라시안의 스펙트럼 성질을 활용하여 수렴 보장을 확보한다.

ABSTRACT

We propose a distributed first-order augmented Lagrangian (DFAL) algorithm to minimize the sum of composite convex functions, where each term in the sum is a private cost function belonging to a node, and only nodes connected by an edge can directly communicate with each other. This optimization model abstracts a number of applications in distributed sensing and machine learning. We show that any limit point of DFAL iterates is optimal; and for any $ε>0$, an $ε$-optimal and $ε$-feasible solution can be computed within $\mathcal{O}(\log(ε^{-1}))$ DFAL iterations, which require $\mathcal{O}(\frac{ψ_{\max}^{1.5}}{d_{\min}} ε^{-1})$ proximal gradient computations and communications per node in total, where $ψ_{\max}$ denotes the largest eigenvalue of the graph Laplacian, and $d_{\min}$ is the minimum degree of the graph. We also propose an asynchronous version of DFAL by incorporating randomized block coordinate descent methods; and demonstrate the efficiency of DFAL on large scale sparse-group LASSO problems.

연구 동기 및 목표

• 네트워크 기반의 탈중앙화 환경에서 복합 볼록 함수의 합을 최소화하기 위한 분산 1차 알고리즘을 설계하는 것.
• 노드 간의 통신 및 계산 오버헤드를 최소화하면서도 최적해로 수렴하는 것을 보장하는 것.
• 대규모 분산 머신러닝 및 센싱 응용 분야에서 흔히 발생하는 기밀성, 메모리, 통신 제약을 고려하는 것.
• 지연되거나 순서가 어긋난 업데이트 상황에서도 수렴성과 효율성을 유지하는 이방향 변형을 개발하는 것.
• 실제 네트워크 구조를 가진 대규모 스파arsity-그룹 LASSO 문제에서 방법의 효율성을 입증하는 것.

제안 방법

• 전체 최적화 문제를 연결된 무방향 그래프 위에서의 일致성 문제로 재구성하여, 각 노드가 국소 변수를 유지하고 등식 제약 조건을 통해 일致성을 확보한다.
• 지역 프록시멀 그래디언트 단계와 일치 제약 조건에 대한 이중 상승 업데이트를 번갈아 적용하는 분산 증강 라그랑주(DFAL) 프레임워크를 활용한다.
• 각 노드에서 비미분 성분 $\rho_i$의 프록시멀 맵과 미분 가능 성분 $\gamma_i$의 그래디언트를 사용하여 효율적인 국소 계산을 가능하게 한다.
• 이방향 변형(AFAL)은 랜덤 블록 좌표 강하를 통합하여 노드 간에 독립적이고 비동기적인 업데이트를 허용한다.
• 수렴성은 그래프 라플라시안의 스펙트럼 성질, 특히 $\psi_{\max}$(최대 고유값)와 $d_{\min}$(최소 노드 차수)를 통해 보장된다.
• 이 방법은 $\mathcal{O}(\log(\epsilon^{-1}))$회의 반복 내에 $\epsilon$-최적성과 $\epsilon$-가능성을 확보하며, 각 노드의 총 통신 및 계산 횟수는 유한하다.

실험 결과

연구 질문

• RQ1 이방향 환경에서 복합 볼록 최적화에 대해 분산 1차 방법이 $\mathcal{O}(\log \epsilon^{-1})$의 반복 복잡도를 달성할 수 있는가?
• RQ2 특히 스펙트럼 갭과 최소 차수를 포함한 네트워크 구조가 분산 프록시멀 알고리즘의 수렴 속도에 어떤 영향을 미치는가?
• RQ3 동기화된 업데이트가 필요 없이도 이방향 분산 알고리즘이 수렴성과 최적성 보장을 유지할 수 있는가?
• RQ4 기존의 분산 ADMM 및 서브그래디언트 기반 방법과 비교해 볼 때, 제안된 DFAL 방법은 효율성과 확장성 면에서 어떻게 다른가?
• RQ5 공유되는 vs. 비공개 정규화 구조(예: 그룹 LASSO)가 탈중앙화 최적화 성능에 어떤 영향을 미치는가?

주요 결과

• DFAL 알고리즘은 최적해로 수렴하며, 반복의 임의의 극한점은 복합 볼록 문제에 대해 전역적으로 최적임을 보장한다.
• 이 방법은 $\mathcal{O}(\log(\epsilon^{-1}))$회의 반복 내에 $\epsilon$-최적 및 $\epsilon$-가능해를 계산하여 로그형 반복 복잡도를 달성한다.
• 노드당 총 프록시멀 그래디언트 계산 횟수와 통신 횟수는 $\mathcal{O}\left(\frac{\psi_{\max}^{1.5}}{d_{\min}} \epsilon^{-1}\right)$로 유계이며, 여기서 $\psi_{\max}$는 그래프 라플라시안의 최대 고유값이고 $d_{\min}$은 최소 노드 차수이다.
• 이방향 변형(AFAL)은 동기 버전과 유사한 성능을 유지하며, 업데이트 지연에 대한 강건성을 입증한다.
• 스타 및 클리크 구조를 가진 실질적인 네트워크 구조에서의 스파arsity-그룹 LASSO 문제에 대한 실험 결과는 DFAL이 ADMM 및 SADMM보다 수렴 속도와 확장성 면에서 뛰어나다는 것을 보여준다.
• 그룹 LASSO 유형 정규화자 $\rho(x) = \beta_1\|x\|_1 + \beta_2\|x\|_G$의 프록시멀 맵은 닫힌 형태의 해를 가지며, 효율적인 구현을 가능하게 한다.