[논문 리뷰] Fully Distributed Alternating Direction Method of Multipliers in Digraphs via Finite-Time Termination Mechanisms

Wei Jiang, Themistoklis Charalambous|arXiv (Cornell University)|2021. 07. 05.

Sparse and Compressive Sensing Techniques참고 문헌 24인용 수 4

한 줄 요약

이 논문은 유한 시간 정확 비율 공감 프로토콜을 사용하여 네트워크 크기의 전역 지식이 필요 없이 전역 변수의 분산 계산을 가능하게 하는, 방향성 그래프(digraphs)에서의 볼록 최적화를 위한 완전히 분산된 분할 정렬 다중 승수 방법(ADMM)인 FD-ADMM-FTDT를 제안한다. 이 알고리즘은 일반적인 볼록 함수에 대해 O(1/k)의 수렴 속도로 정확한 수렴을 달성하며, 강한 볼록성과 미분 가능성 조건 하에서는 근사 R-선형 수렴을 보이며, 대규모 네트워크에서 이전 방법들보다 빠르고 정밀한 성능을 발휘한다.

ABSTRACT

In this work, we consider the distributed optimization problem in which each node has its own convex cost function and can communicate directly only with its neighbors, as determined by a directed communication topology (directed graph or digraph). First, we reformulate the optimization problem so that Alternating Direction Method of Multipliers (ADMM) can be utilized. Then, we propose an algorithm, herein called Distributed Alternating Direction Method of Multipliers using Finite-Time Exact Ratio Consensus (D-ADMM-FTERC), to solve the multi-node convex optimization problem, in which every node performs iterative computations and exchanges information with its neighbors. At every iteration of D-ADMM-FTERC, each node solves a local convex optimization problem for the one of the primal variables and utilizes a finite-time exact consensus protocol to obtain the optimal value of the other variable, since the cost function for the second primal variable is not decomposable. Since D-ADMM-FTERC requires to know the upper bound on the number of nodes in the network, we furthermore propose a new algorithm, called Fully D-ADMM Finite-Time Distributed Termination (FD-ADMM-FTDT) algorithm, which does not need any global information. If the individual cost functions are convex and not-necessarily differentiable, the proposed algorithms converge at a rate of O(1/k), where k is the iteration counter. Additionally, if the global objective function is strongly convex and smooth, the proposed algorithms have an "approximate" R-linear convergence rate. The efficacy of FD-ADMM-FTDT is demonstrated via a distributed L1 regularized logistic regression optimization example. Additionally, comparisons with other state-of-the-art algorithms are provided on large-scale networks showing the superior precision and time-efficient performance of FD-ADMM-FTDT.

연구 동기 및 목표

• 이중 연결성이 없는 방향성 통신 토폴로지(digraphs)에서의 분산 최적화 문제를 해결하기 위해, 이전의 ADMM 방법들이 이중 연결성이 없기 때문에 실패하는 문제를 해결한다.
• 기존 분산 ADMM 알고리즘에서 수렴을 위해 일반적으로 필요로 하는 전역 정보(예: 네트워크 크기)에 대한 의존성을 제거한다.
• 중앙 집중식 조율자가 없이도 ADMM 반복에서 전역 변수의 정확한 계산을 가능하게 하는 완전히 분산된, 유한 시간 정확 공감 메커니즘을 개발한다.
• 방향성 그래프에서 기존 최첨단 분산 ADMM 방법들보다 더 빠른 수렴 속도와 높은 정밀도를 달성한다.
• 대규모 분산 l1-정규화 로지스틱 회귀 실험을 통해 제안된 방법의 유효성을 입증한다.

제안 방법

• D-ADMM-FTERC를 제안하며, 로컬 변수의 평균을 방향성 그래프에서 계산하기 위해 유한 시간 정확 비율 공감(FTERC) 프로토콜을 사용하는 분산 ADMM 변종이다. 이는 정확한 전역 변수 추정을 가능하게 한다.
• FD-ADMM-FTDT를 도입하며, FTERC 프로토콜과 분산 종료 메커니즘을 통합하여 전역 지식(예: 네트워크 크기)이 전혀 필요 없도록 한다.
• 두 단계로 구성된 ADMM 업데이트를 사용한다: L-BFGS-B를 통한 로컬 원소 변수 최적화, 이어 이중 변수와 원소 업데이트의 평균을 계산하기 위한 유한 시간 공감.
• l1 정규화가 존재하는 상황에서 수렴과 희소성 보장을 위해 임계값 처리(소프트 임계값 처리) 연산자를 z-업데이트 단계에 적용한다.
• 중앙 집중식 평균 계산이 아닌 유한 시간 분산 공감 프로토콜을 도입하여 완전히 분산된 z-업데이트를 가능하게 하며, 중앙 집중식 수집기의 필요성을 제거한다.
• 모든 노드가 정확한 평균을 계산한 후에만 반복 단계를 동기화할 수 있도록 하는 분산 종료 메커니즘을 도입하여, 조율된 효율적인 수렴을 보장한다.

실험 결과

연구 질문

• RQ1 방향성 그래프에서 전역 네트워크 정보(노드 수 등)가 없이도 분산 ADMM 알고리즘이 정확한 수렴을 달성할 수 있는가?
• RQ2 유한 시간 정확 공감을 어떻게 ADMM에 통합하여 분산 최적화에서 점진적 또는 중앙 집중식 평균 계산을 대체할 수 있는가?
• RQ3 전역 목적이 강한 볼록성과 미분 가능성을 만족할 경우, 방향성 그래프에서 완전히 분산된 ADMM의 수렴 속도는 어느 정도 달성할 수 있는가?
• RQ4 제안된 방법의 성능은 대규모 네트워크에서 기존 분산 ADMM 알고리즘과 비교해 수렴 속도와 해의 정확도 측면에서 어떻게 다른가?
• RQ5 제안된 유한 시간 공감 및 종료 메커니즘이 실제 분산 머신러닝 문제, 예를 들어 l1-정규화 로지스틱 회귀에 효과적으로 적용될 수 있는가?

주요 결과

• FD-ADMM-FTDT는 이전 방법들과 달리 네트워크 크기의 전역 지식이 없이도 방향성 그래프에서 볼록 비용 함수에 대해 정확한 수렴을 달성한다.
• 일반적인 볼록 함수이자 미분 가능성이 보장되지 않는 함수에 대해 O(1/k)의 수렴 속도를 보이며, 이는 기존 분산 ADMM에서 달성 가능한 최고 수준의 속도와 일치한다.
• 강한 볼록성과 미분 가능성 조건 하에서는 근사 R-선형 수렴 속도를 보이며, 잘 조절된 문제에 대해 매우 빠른 수렴을 나타낸다.
• 대규모 l1-정규화 로지스틱 회귀 실험에서 FD-ADMM-FTDT는 중심화된 방법과 동일한 최적의 목적 함수 값을 달성하여 정확한 해 복원을 입증했다.
• FD-ADMM-FTDT는 수렴에 단 3.69초가 소요되었으며, 이는 다음으로 빠른 방법인 D-DistADMM(238.56초)에 비해 뚜렷이 빠른 성능을 보였다. 이는 후자의 경우 더 많은 공감 단계로 인해 효율성이 떨어지기 때문이다.
• 기존 작업 대비 최적화 단계당 비율 공감 반복 수를 줄여 수렴 속도를 가속화하면서도 높은 정밀도를 유지한다.