[논문 리뷰] Accelerated Primal-Dual Algorithms for Distributed Smooth Convex Optimization over Networks

Jinming Xu, Ye Tian외 2명|arXiv (Cornell University)|2019. 10. 23.

Distributed Control Multi-Agent Systems참고 문헌 35인용 수 10

한 줄 요약

이 논문은 단지 기울기 정보와 가보(gossip) 통신만을 사용하는 네트워크 상에서 부드럽고 볼록 최적화를 위한 기존의 하향-상향 기반 분산 알고리즘의 새로운 가족인 OPTRA를 제안한다. 계산 단계와 통신 단계 양쪽에 가속 기법을 통합함으로써, 기존의 하한선과 일치하는 최적의 수렴 속도를 달성하며, 페를레-컨jugate를 알 필요 없이도 가능하므로, 이전의 최적 방법보다 더 넓은 함수 클래스에 적용 가능성이 확보된다.

ABSTRACT

This paper proposes a novel family of primal-dual-based distributed algorithms for smooth, convex, multi-agent optimization over networks that uses only gradient information and gossip communications. The algorithms can also employ acceleration on the computation and communications. We provide a unified analysis of their convergence rate, measured in terms of the Bregman distance associated to the saddle point reformation of the distributed optimization problem. When acceleration is employed, the rate is shown to be optimal, in the sense that it matches (under the proposed metric) existing complexity lower bounds of distributed algorithms applicable to such a class of problem and using only gradient information and gossip communications. Preliminary numerical results on distributed least-square regression problems show that the proposed algorithm compares favorably on existing distributed schemes.

연구 동기 및 목표

• 다중 에이전트 네트워크를 위한 분산 최적화 알고리즘을 개발하여, 기울기 정보와 가보 통신만을 사용해 최적의 수렴 속도를 달성한다.
• 이전의 최적 방법의 적용 가능성을 제한하는 에이전트 함수의 페를레-컨주게이트 계산이 필요 없도록 제거한다.
• 문제의 사안점 재구성과 관련된 브레그만 거리 척도를 사용해 수렴 속도 분석을 통합한다.
• 동일한 척도에서 기울기 계산과 통신 단계의 최적 복잡도 한계를 달성한다.
• 분산 회귀 문제에 대한 수치 실험을 통해 뛰어난 실용적 성능을 입증한다.

제안 방법

• 알고리즘은 사안점 최적화를 통해 재구성된 기울기-상향 프레임워크에 기반하여, 무방향이고 고정된 네트워크에서 분산 계산이 가능하다.
• 지역 계산과 통신 단계를 균형 있게 조절하여 총 비용을 최소화하는 새로운 가속 메커니즘을 적용한다.
• 수렴 분석은 사안점 재구성과 관련된 브레그만 거리에 기반하여 수행되며, 성능 평가에 통합된 척도를 제공한다.
• 가속 기법이 지역 기울기 업데이트와 이웃 간 정보 교환에 동시에 적용된다.
• 목적 함수의 페를레-컨주게이트 의존성을 피함으로써, 일반적인 부드러운 볼록 함수에 대한 적용 가능성을 높인다.
• 실험에서 각 알고리즘의 공정한 비교를 위해 수동으로 파라미터 조정을 수행하였으며, 단계 크기 및 반복 횟수와 같은 핵심 파라미터는 최적 성능를 위해 최적화되었다.

실험 결과

연구 질문

• RQ1 기울기와 가보 정보만을 사용해 부드러운 볼록 최적화에 대해 분산 기울기-상향 알고리즘이 최적의 수렴 속도를 달성할 수 있는가?
• RQ2 분산 네트워크에서 계산 단계와 통신 단계를 동시에 최적화하는 가속 기법을 설계할 수 있는가?
• RQ3 페를레-컨주게이트 계산이 필요 없도록 하면, 최적 속도 알고리즘이 적용 가능한 문제의 범위가 넓어지는가?
• RQ4 총 비용, 통신, 계산 측면에서 제안된 알고리즘은 기존의 가속 분산 방법보다 실질적으로 어떻게 비교되는가?
• RQ5 통신 비용과 계산 비용의 비율이 변할 경우에도 알고리즘은 최적의 복잡도 한계를 유지하는가?

주요 결과

• 제안된 OPTRA 알고리즘은 기울기 정보와 가보 통신만을 사용하는 1차 분산 알고리즘에 대해 기존 하한선과 일치하는 최적의 수렴 속도 $ Oigl(rac{1}{ au}igr) $ 을 브레그만 거리 척도에서 달성한다.
• OPTRA는 부드러운 볼록 함수에 대해 계산 및 통신 복잡도 하한선을 동시에 충족하는 첫 번째 알려진 1차 가보 기반 알고리즘이다.
• Scaman 등 (2017)과 Uribe 등 (2018)과 달리, OPTRA는 페를레-컨주게이트의 지식이 필요 없어 일반적인 부드러운 볼록 함수에 대한 적용 가능성이 크게 확장된다.
• 수치 결과는 OPTRA가 통신 비용이 무시할 수 없는 경우에 특히, Acc-DNGD-NSC, APM-C, NEXT, EXTRA, DPSGD와 같은 기존 방법들을 능가함을 보여준다.
• 계산 비용이 통신 비용보다 5배 더 높은 설정에서도 OPTRA는 선형 회귀 및 로지스틱 회귀 문제에서 뛰어난 성능을 유지하며, 비용 불균형에 대한 강건성을 입증한다.
• 강력한 볼록 정규화에 의존하는 방법들과 달리, OPTRA는 로그형 요소의 비용 증가 없이 최적의 복잡도를 달성한다. 이는 정확도가 증가할수록 조건 수가 악화되는 경향이 있는 방법들과는 대조된다.