[논문 리뷰] A Dual Approach for Optimal Algorithms in Distributed Optimization over Networks

César A. Uribe, Soomin Lee외 2명|arXiv (Cornell University)|2018. 09. 03.

Distributed Control Multi-Agent Systems인용 수 5

한 줄 요약

이 논문은 그래프의 스펙트럼 성질을 활용하여 네트워크 상에서 볼록 문제에 대해 최적 수렴 속도를 달성하는 이중 기반 분산 최적화 프레임워크를 제안한다. 이는 중심화된 최적 수렴 속도(로그함수나 상수 인자 정도의 오차 내)를 도달하는 알고리즘을 도입하며, 상호작용 행렬을 통해 네트워크 구조를 명시적으로 반영한다. Nesterov 스무딩을 사용하여 이중우선 함수와 비이중우선 함수 모두에 대해 이론적 보장을 제공한다.

ABSTRACT

We study dual-based algorithms for distributed convex optimization problems over networks, where the objective is to minimize a sum $\\sum_{i=1}^{m}f_i(z)$ of functions over in a network. We provide complexity bounds for four different cases, namely: each function $f_i$ is strongly convex and smooth, each function is either strongly convex or smooth, and when it is convex but neither strongly convex nor smooth. Our approach is based on the dual of an appropriately formulated primal problem, which includes a graph that models the communication restrictions. We propose distributed algorithms that achieve the same optimal rates as their centralized counterparts (up to constant and logarithmic factors), with an additional optimal cost related to the spectral properties of the network. Initially, we focus on functions for which we can explicitly minimize its Legendre-Fenchel conjugate, i.e., admissible or dual friendly functions. Then, we study distributed optimization algorithms for non-dual friendly functions, as well as a method to improve the dependency on the parameters of the functions involved. Numerical analysis of the proposed algorithms is also provided.

연구 동기 및 목표

• 네트워크 상에서 볼록 문제에 대해 최적 수렴 속도를 달성하는 분산 최적화 알고리즘을 설계한다.
• 상호작용 행렬을 통해 네트워크의 스펙트럼 성질을 명시적으로 수렴 속도 한계에 통합한다.
• Nesterov 스무딩 기법을 사용하여 비이중우선 함수의 최적 수렴 속도를 확장한다.
• 강력 볼록이면서 미분 가능하고, 강력 볼록이거나 미분 가능하며, 볼록이지만 둘 다 아닌 경우의 네 가지 케이스에 대해 복잡도 한계를 제공한다.
• 다양한 네트워크 구조에서 분산 알고리즘의 성능 한계에 대한 이론적 기초를 구축한다.

제안 방법

• 공동 제약 조건을 그래프 라플라시안으로 모델링하여 분산 문제를 원시-이중 최적화 문제로 수식화한다.
• Legendre–Fenchel 쌍대성을 사용하여 이중 문제를 유도하며, 쌍대성의 해가 명시적으로 최소화 가능한 함수(이중우선 함수)에 집중한다.
• Nesterov의 스무딩을 도입하여 이중 또는 원시 문제에 강력 볼록성을 유도함으로써 비이중우선 함수에 대해 최적 수렴 속도를 달성한다.
• 상호작용 행렬의 스펙트럼 성질을 분석하여 수렴을 분석하며, 특히 정규화된 고유값 갭과 조건수 χ(W)에 초점을 맞춘다.
• 중앙집중식 최적 방법과 수렴 속도가 동일한(로그함수나 상수 인자 정도의 오차 내) 분산 알고리즘을 제안한다.
• 최악의 수렴 속도를 증명하고 알고리즘 파라미터를 최적화하기 위해 정수형 프로그래밍을 사용한다.

실험 결과

연구 질문

• RQ1 이중 기반 분산 알고리즘은 네트워크 상에서 볼록 문제에 대해 중심화된 최적 알고리즘과 동일한 수렴 속도를 달성할 수 있는가?
• RQ2 수렴 속도는 상호작용 행렬의 스펙트럼 성질에 따라 어떻게 달라지며, 특히 정규화된 고유값 갭에 따라 어떻게 영향을 받는가?
• RQ3 함수가 볼록이지만 강력 볼록성이나 미분 가능성 모두를 갖지 않는 경우, 분산 최적화의 최적 복잡도는 무엇인가?
• RQ4 스무딩 기법을 사용하여 비이중우선 함수에 대해 최적 수렴 속도를 달성할 수 있는가?
• RQ5 시간에 따라 변하는 또는 방향성이 있는 네트워크에서 성능은 네트워크 크기와 구조에 따라 어떻게 스케일링되는가?

주요 결과

• μ-강력 볼록이자 L-미분 가능 함수의 경우, 제안된 알고리즘은 O(√(L/μ)(1 + τ/√γ) log ε⁻¹) 반복 내에 ε-최적성을 달성하며, 이는 이전 연구에서 도출된 최적 수렴 속도와 일치한다.
• 비이중우선 함수의 경우, Nesterov 스무딩을 사용하여 상수 인자 정도의 오차 내로 최적 수렴 속도를 달성한다.
• 수렴 속도는 네트워크의 정규화된 고유값 갭 γ와 지름 τ에 따라 영향을 받으며, 추가 비용으로 √χ(W)가 포함되며, 여기서 χ(W)는 상호작용 행렬의 조건수이다.
• 수치적 결과는 제안된 알고리즘이 Erdős-Rényi 무작위 그래프에서 EXTRA, DIGing, Acc-DNGD보다 수렴 속도가 빠르다는 것을 보여주며, 특히 조건수가 우수한 그래프에서 두드러진 성능을 보인다.
• 랜덤 그래프에서 제안된 알고리즘은 네트워크 크기 증가에 따라 최적 스케일링을 유지하지만, EXTRA와 DIGing은 네트워크 크기가 증가함에 따라 성능이 악화됨을 보였다.
• 이 방법은 그래프의 스펙트럼 성질과 함수의 조건수를 전역적으로 알고 있어야 하므로, 적응 기법 없이 실용적 구현에 제약을 가질 수 있다.