[논문 리뷰] Optimal and Practical Algorithms for Smooth and Strongly Convex Decentralized Optimization

Dmitry Kovalev, Adil Salim외 1명|arXiv (Cornell University)|2020. 06. 21.

Sparse and Compressive Sensing Techniques인용 수 14

한 줄 요약

이 논문은 네트워크를 통해 분산된 부드럽고 강하게 볼록인 함수에 대해, 단조성 포함 문제를 해결하기 위해 가속화된 전진-후진 알고리즘의 변종을 활용한 두 가지 새로운 분산 최적화 알고리즘을 제안한다. 첫 번째 알고리즘은 이중 기울기 평가를 요구하지 않으며, 기울기 계산과 통신 라운드 수 모두 최적 복잡도를 달성한다. 두 번째 알고리즘은 조건 수에 대한 로그 인자 없이 최적의 통신 복잡도를 확보한다. 이는 이론적 분석과 수치 실험을 통해 검증되었다.

ABSTRACT

We consider the task of decentralized minimization of the sum of smooth strongly convex functions stored across the nodes of a network. For this problem, lower bounds on the number of gradient computations and the number of communication rounds required to achieve $\\varepsilon$ accuracy have recently been proven. We propose two new algorithms for this decentralized optimization problem and equip them with complexity guarantees. We show that our first method is optimal both in terms of the number of communication rounds and in terms of the number of gradient computations. Unlike existing optimal algorithms, our algorithm does not rely on the expensive evaluation of dual gradients. Our second algorithm is optimal in terms of the number of communication rounds, without a logarithmic factor. Our approach relies on viewing the two proposed algorithms as accelerated variants of the Forward Backward algorithm to solve monotone inclusions associated with the decentralized optimization problem. We also verify the efficacy of our methods against state-of-the-art algorithms through numerical experiments.

연구 동기 및 목표

• 네트워크의 노드들에 분산 저장된 부드럽고 강하게 볼凸인 함수의 합을 최소화하는 효율적인 분산 최적화 알고리즘을 설계하는 것.
• 분산 최적화에서 기울기 계산과 통신 라운드 수 모두 최적 수렴 속도를 달성하는 것.
• 최적 알고리즘에서 비용이 많이 드는 이중 기울기 계산에 의존하는 것을 제거하여 실용성을 향상시키는 것.
• 조건 수에 대한 로그 인자 없이 최적의 통신 복잡도를 갖는 방법을 개발하는 것.
• 최신 기술과의 비교를 통해 제안된 알고리즘을 수치 실험을 통해 검증하는 것.

제안 방법

• 알고리즘은 분산 최적화 문제에서 유래된 단조성 포함 문제를 해결하기 위해 전진-후진 방법의 가속화 변종으로 유도된다.
• 원본, 이중, 공통 변수를 포함하는 행렬 기반 잠재 함수를 사용하여 수렴 분석을 위한 리아푸노프 함수를 구성한다.
• 반복의 역학과 최적 해와의 거리를 캡처하기 위해 행렬 P, W†, 및 M을 사용하는 가중치가 부여된 노름을 분석에 활용한다.
• 수렴 속도 향상을 위해 체비셰프 가속화와 연산자 분할 기법을 통합한다.
• 원본-이중 및 공통 변수를 사용하여 문제를 재구성함으로써 이중 기울기 계산을 피하는 알고리즘 설계를 수행한다.
• 수렴은 리아푸노프 함수의 선형 감소를 보여주는 재귀 부등식을 통해 증명되며, 이는 최적 복잡도 경계를 이끌어낸다.

실험 결과

연구 질문

• RQ1 이중 기울기 계산을 요구하지 않으면서, 기울기 평가와 통신 라운드 수 모두 최적 복잡도를 달성하는 분산 알고리즘을 설계할 수 있는가?
• RQ2 조건 수에 대한 로그 인자 없이 최적의 통신 복잡도를 달성하는 것은 가능한가?
• RQ3 가속화된 전진-후진 방법의 변종은 분산 환경에서 단조성 포함 문제에 어떻게 적응시킬 수 있는가?
• RQ4 행렬 가중치가 부여된 노름을 갖는 리아푸노프 함수는 최적 수렴 속도 확보에 어떤 역할을 하는가?
• RQ5 기존 최신 기술 대비 제안된 알고리즘은 실질적으로 어떻게 비교되는가?

주요 결과

• 첫 번째로 제안된 알고리즘은 기울기 계산과 통신 라운드 수 모두 최적 복잡도를 달성하며, Scaman 등(2017)이 수립한 이론적 하한선과 일치한다.
• 기존 최적 알고리즘과 달리, 이 방법은 이중 기울기 평가가 필요로 하지 않아 실용적 효율성이 크게 향상된다.
• 두 번째 알고리즘은 조건 수에 대한 로그 인자 없이 최적의 통신 복잡도를 달성하며, 기존 가속화 방법보다 향상된다.
• 이론적 분석은 조건 수 κ와 χ의 제곱근에 의존하는 수렴 속도를 보이며, 최적성의 확인이 이루어진다.
• 수치 실험을 통해 제안된 알고리즘이 최신 기술 대비 수렴 속도와 강건성 측면에서 뛰어난 성능을 보였다.
• 리아푸노프 함수 분석은 수축 인자와 선형 수렴 속도를 도출하며, 이는 μ, L 및 그래프의 스펙트럼 성질에 명시적인 의존성을 보인다.