[논문 리뷰] Distributed Algorithms for Composite Optimization: Unified and Tight Convergence Analysis.

Jinming Xu, Ye Tian외 2명|arXiv (Cornell University)|2020. 02. 25.

Distributed Control Multi-Agent Systems인용 수 21

한 줄 요약

이 논문은 네트워크 상에서 부드럽고 비부드러운 볼록 함수를 조합한 복합 최적화를 위한 통합된 분산 알고리즘 프레임워크를 제안한다. 연산자 분할을 사용하여 부드럽고 비부드러운 볼록 함수를 통합한다. 강볼록 문제에 대해 선형 수렴를 달성하며, 국소 함수와 네트워크 구조 간의 영향이 분리되어 있으며, 볼록 케이스에서는 하위선형 수렴 속도를 보이며 계수들이 분리되어 있고, 네트워크 연결성과 무관하게 계산-통신 간의 트레이드오프를 가능하게 한다. 이는 이러한 모든 성질을 동시에 구현한 최초의 프레임워크이다.

ABSTRACT

We study distributed composite optimization over networks: agents minimize a sum of smooth (strongly) convex functions, the agents' sum-utility, plus a nonsmooth (extended-valued) convex one. We propose a general unified algorithmic framework for such a class of problems and provide a unified convergence analysis leveraging the theory of operator splitting. Distinguishing features of our scheme are: (i) When the agents' functions are strongly convex, the algorithm converges at a linear rate, whose dependence on the agents' functions and network topology is decoupled, matching the typical rates of centralized optimization; the rate expression improves on existing results; (ii) When the objective function is convex (but not strongly convex), similar separation as in (i) is established for the coefficient of the proved sublinear rate; (iii) The algorithm can adjust the ratio between the number of communications and computations to achieve a rate (in terms of computations) independent on the network connectivity; and (iv) A by-product of our analysis is a tuning recommendation for several existing (non accelerated) distributed algorithms yielding the fastest provably (worst-case) convergence rate. This is the first time that a general distributed algorithmic framework applicable to composite optimization enjoys all such properties.

연구 동기 및 목표

• 네트워크 상에서 분산 복합 최적화를 위한 일반적이고 통합된 알고리즘 프레임워크를 개발하는 것.
• 국소 함수와 네트워크 구조의 영향을 분리한 날카로운 수렴 속도를 달성하는 것.
• 수렴 속도에 영향을 주지 않고 계산과 통신 간의 비율을 조절할 수 있도록 하는 것.
• 기존 비가속화 분산 알고리즘에 대해 증명 가능한 최적의 튜닝을 제공하는 것.
• 강볼록 및 볼록 설정 모두에서 기존의 수렴 분석을 통합하고 향상시키는 것.

제안 방법

• 프레임워크는 연산자 분할 이론을 활용하여 분산 복합 최적화 문제의 분석을 통합한다.
• 에이전트의 합산 유틸리티를 부드럽고(강)볼록 함수의 합과 비부드러운 확장된 실수값 볼록 함수의 합으로 모델링한다.
• 복합 구조를 다루기 위해 연산자 분할에서 유도된 원-대안 방법을 사용하는 알고리즘이다.
• 수렴 속도 분석은 단조 연산자 이론과 고정점 반복 기법을 사용한 이론적 도구를 활용한다.
• 최악의 수렴 속도에 영향을 주지 않고 통신 대비 계산 비율을 동적으로 조절할 수 있다.
• 기존 비가속화 알고리즘에 대한 튜닝 권고는 분석의 부산물로 도출된다.

실험 결과

연구 질문

• RQ1 단일 분산 알고리즘 프레임워크가 국소 함수와 네트워크 구조에 대한 영향을 분리한 채로 강볼록 복합 문제에 대해 선형 수렴를 달성할 수 있는가?
• RQ2 강볼록이 아닌 볼록 문제의 수렴 속도가 국소 함수와 네트워크 구조 성분으로 분리될 수 있는가?
• RQ3 수렴 속도에 영향을 주지 않고 통신 대비 계산 비율을 조절할 수 있는가?
• RQ4 제안된 분석이 기존 비가속화 분산 알고리즘에 대해 향상된 튜닝 규칙을 도출할 수 있는가?
• RQ5 이 프레임워크는 볼록 및 강볼록 설정 모두에서 기존의 수렴 결과를 통합하고 향상시키는가?

주요 결과

• 알고리즘은 강볼록 문제에 대해 선형 수렴를 달성하며, 국소 함수와 네트워크 구조에 대한 영향이 완전히 분리되어 있다.
• 강볼록 문제의 수렴 속도 표현은 타당성과 분리성 측면에서 기존 결과를 향상시킨다.
• 볼록 문제의 경우, 하위선형 수렴 계수도 국소 함수와 네트워크 구조 성분으로 분리되어 있다.
• 알고리즘은 통신과 계산 간의 트레이드오프를 가능하게 하며, 계산 기반 수렴 속도가 네트워크 연결성과 무관하게 유지된다.
• 분석을 통해 몇몇 기존 비가속화 분산 알고리즘에 대해 튜닝 권고를 도출하였으며, 이는 증명 가능한 최악의 경우 수렴 속도가 가장 빠르게 달성된다.
• 이 프레임워크는 네 가지 핵심 성질을 동시에 달성한 최초의 프레임워크이다: 분리된 수렴 속도, 조절 가능한 통신-계산 비율, 날카로운 수렴 경계, 볼록 및 강볼록 케이스에 대한 통합된 분석.