[논문 리뷰] Lower Bounds and Optimal Algorithms for Smooth and Strongly Convex Decentralized Optimization Over Time-Varying Networks

Dmitry Kovalev, Elnur Gasanov외 2명|arXiv (Cornell University)|2021. 06. 08.

Distributed Control Multi-Agent Systems인용 수 8

한 줄 요약

이 논문은 시간에 따라 변화하는 네트워크에서 분산형 미분 가능하고 강凸인 최적화 문제에 대해 통신 및 국소 계산 복잡도에 대한 최초의 하한을 설정한다. 다중 공감(multi-consensus)을 통한 이중기울기 기반 알고리즘인 ADOM과 원추기울기 기반 알고리즘인 ADOM+로 구성된 두 가지 최적 알고리즘을 제안하며, 이는 하한과 정확히 일치하여 $\epsilon$-정확도를 $\mathcal{O}(\kappa^{1/2}\log(1/\epsilon))$의 국소 계산 횟수와 $\mathcal{O}(\chi\kappa^{1/2}\log(1/\epsilon))$의 통신 라운드 수로 달성한다. 여기서 $\kappa$는 조건수이고 $\chi$는 네트워크 연결성 파라미터이다.

ABSTRACT

We consider the task of minimizing the sum of smooth and strongly convex functions stored in a decentralized manner across the nodes of a communication network whose links are allowed to change in time. We solve two fundamental problems for this task. First, we establish the first lower bounds on the number of decentralized communication rounds and the number of local computations required to find an $\\epsilon$-accurate solution. Second, we design two optimal algorithms that attain these lower bounds: (i) a variant of the recently proposed algorithm ADOM (Kovalev et al., 2021) enhanced via a multi-consensus subroutine, which is optimal in the case when access to the dual gradients is assumed, and (ii) a novel algorithm, called ADOM+, which is optimal in the case when access to the primal gradients is assumed. We corroborate the theoretical efficiency of these algorithms by performing an experimental comparison with existing state-of-the-art methods.

연구 동기 및 목표

• 시간에 따라 변화하는 네트워크에서 분산 최적화의 통신 및 계산 복잡도에 대한 기본적인 한계를 설정하기.
• 부드럽고 강凸인 함수에 대해 기존 알고리즘과 이론적 하한 사이의 격차를 메우기.
• 원추 및 이중 기울기 접근 모두에서 유도된 하한과 일치하는 최적 알고리즘 설계하기.
• 수치 실험을 통해 제안된 방법의 이론적 효율성을 검증하기.

제안 방법

• 정보 이론적 추론과 최악의 경우 문제 인스턴스 구성 방법을 사용하여 분산 통신 및 국소 계산 복잡도에 대한 하한을 유도한다.
• 다중 공감 서브루틴을 통합한 이중기울기 기반 알고리즘인 ADOM with multi-consensus를 제안하여 이중 기울기 접근 하에서 최적 수렴을 달성한다.
• 다중 공감을 통합한 새로운 원추기울기 기반 알고리즘인 ADOM+를 도입하여 원추 기울기 접근 하에서 최적 성능을 달성한다.
• 적절하게 선택된 파rameter를 가진 리아푸노프 함수 분석을 활용하여 하한과 일치하는 선형 수렴 속도를 증명한다.
• 원추-이중 형식과 변수 변환을 사용하여 원추 및 이중 변수의 수렴을 분리하고 제어한다.
• APM-C 및 Acc-GT와 같은 최첨단 방법과의 비교를 통해 실험적으로 성능를 검증한다.

실험 결과

연구 질문

• RQ1 시간에 따라 변화하는 네트워크에서 부드럽고 강凸인 분산 최적화 문제를 $\epsilon$-정확도로 달성하기 위해 필요한 분산 통신 라운드 수의 기본 하한은 무엇인가?
• RQ2 동일한 조건에서 $\epsilon$-정확도를 달성하기 위해 필요한 최소 국소 계산 횟수는 얼마인가?
• RQ3 기존 알고리즘은 이러한 이론적 하한에 맞추어 향상시킬 수 있는가?
• RQ4 시간에 따라 변화하는 네트워크에서 최적 복잡도를 달성하는 원추기울기 기반 알고리즘이 존재하는가?
• RQ5 이중기울기 기반 방법은 알고리즘적 개선을 통해 최적화될 수 있는가?

주요 결과

• 논문은 시간에 따라 변화하는 네트워크에서 분산형 부드럽고 강凸인 최적화 문제에 대해 통신 및 국소 계산 복잡도에 대한 최초의 알려진 하한을 설정한다.
• 하한은 국소 계산에 대해 $\mathcal{O}(\kappa^{1/2}\log(1/\epsilon))$이고 통신 라운드 수에 대해 $\mathcal{O}(\chi\kappa^{1/2}\log(1/\epsilon))$이다.
• 다중 공감을 통한 ADOM은 이중 기울기 접근 하에서 최적 성능을 달성하며, 유도된 하한과 정확히 일치한다.
• ADOM+는 원추 기울기 접근 하에서 최적 성능을 달성하며, 이론적 하한과도 일치한다.
• 제안된 알고리즘은 실질적으로 구현 가능하며, APM-C 및 Acc-GT와 같은 최첨단 방법과 비교해도 우수하거나 동등한 성능을 보인다.
• 분석을 통해 Acc-GT 역시 최적임을 확인하였으며, 그 복잡도는 유도된 하한과 일치한다.