[논문 리뷰] Optimal Algorithms for Distributed Optimization

César A. Uribe, Soomin Lee외 2명|arXiv (Cornell University)|2017. 12. 01.

Distributed Control Multi-Agent Systems참고 문헌 53인용 수 24

한 줄 요약

이 논문은 이중 문제에 Nesterov의 가속 경사하강법을 활용하여 네트워크 상에서 볼록 최적화를 위한 최적의 분산 알고리즘을 제안한다. 이로 인해 중앙집중식 대응 알고리즘과 비슷한 수렴 속도를 달성하며, 로그 또는 상수 요소의 오차 범위 내에서 성능을 확보한다. 이 방법은 상호작용 행렬의 고유값 간격을 통해 네트워크 구조를 고려하여, 강한 볼록성, 미세함, 일반 볼록 설정 모두에서 최적의 성능을 발휘한다.

ABSTRACT

In this paper, we study the optimal convergence rate for distributed convex optimization problems in networks. We model the communication restrictions imposed by the network as a set of affine constraints and provide optimal complexity bounds for four different setups, namely: the function $F(\xb) riangleq \sum_{i=1}^{m}f_i(\xb)$ is strongly convex and smooth, either strongly convex or smooth or just convex. Our results show that Nesterov's accelerated gradient descent on the dual problem can be executed in a distributed manner and obtains the same optimal rates as in the centralized version of the problem (up to constant or logarithmic factors) with an additional cost related to the spectral gap of the interaction matrix. Finally, we discuss some extensions to the proposed setup such as proximal friendly functions, time-varying graphs, improvement of the condition numbers.

연구 동기 및 목표

• 다양한 부드러움 및 볼록성 조건 하에서 분산 볼록 최적화의 최적 수렴 속도를 확립하기 위해.
• 중앙집중식 최적 방법과 비슷한 수렴 속도를 달성하는 분산 알고리즘을 개발하기 위해, 로그 또는 상수 요소의 오차 범위 내에서.
• 상호작용 행렬의 스펙트럼적 성질을 활용하여 네트워크 구조 제약 조건(선형 제약 조건으로 모델링됨)을 최적화 프레임워크에 통합하기 위해.
• 시간에 따라 변화하는 또는 방향성이 있는 그래프로 결과를 확장하고, 조건 수와 통신 비용의 영향을 분석하기 위해.
• 부분적인 네트워크 및 함수 성질에 대한 전역 지식이 요구되는 경우에도 분산 알고리즘의 성능 한계에 대한 이론적 기초를 제공하기 위해.

제안 방법

• 네트워크 통신 패턴에서 유도된 선형 제약 조건을 만족하는 국소 함수의 합을 최소화하는 방식으로 분산 최적화 문제를 모델링하기 위해.
• 이중 문제를 설정하고, Nesterov의 가속 경사하강법을 적용하여 노드 간 분산 실행을 가능하게 하기 위해.
• 상호작용 행렬 $W$ 의 고유값 간격을 사용하여 통신 비용을 정량화하고, 복잡도가 $\sqrt{\chi(W)}$ 비례하도록 설정하기 위해, 여기서 $\chi(W)$ 는 $W$ 의 조건 수이다.
• 체비셰프 다항식 가속 기법을 도입하여 상호작용 행렬을 재가중하고 고유값 간격을 최대화함으로써 수렴 속도를 향상시키기 위해.
• 그래프 변화가 감지 가능하고 흐리게 발생할 경우, 재시작 기법을 통해 시간에 따라 변화하는 그래프 상에서도 가속 수렴 속도를 유지하기 위해.
• 강한 볼록성과 부드러움을 $\ell_p$-유도 노름 공간에서 적절한 노름 공간 내에서 재정의함으로써 $p$-노름 및 홀더 부드러운 함수로 결과를 일반화하기 위해.

실험 결과

연구 질문

• RQ1 분산 최적화 알고리즘이 로그 또는 상수 요소의 오차 범위 내에서 중앙집중식 최적 방법과 동일한 수렴 속도를 달성할 수 있는가?
• RQ2 수렴 속도가 상호작용 행렬의 고유값 간격과 조건 수와 같은 네트워크 스펙트럼적 성질에 따라 어떻게 의존하는가?
• RQ3 가속화가 시간에 따라 변화하는 또는 방향성이 있는 통신 그래프에서 가능할 수 있으며, 만약 가능하다면 어떤 조건에서 가능한가?
• RQ4 수렴 속도는 전역 목표 함수의 조건 수와 네트워크 구조에 따라 어떻게 스케일링되는가?
• RQ5 비부드럽거나 홀더 연속 함수 목표에 대해, 근사 오ракูล과 균일 볼록성의 개념을 사용하여 프레임워크를 확장할 수 있는가?

주요 결과

• 강한 $\mu$-볼록성과 $L$-부드러움을 갖는 문제에 대해, 제안된 알고리즘은 $\varepsilon$-정확도에 도달하기 위해 $O\left(\sqrt{L/\mu}(1 + \tau/\sqrt{\gamma})\log \varepsilon^{-1}\right)$ 번의 반복을 수행하며, 이는 알려진 최고의 중앙집중식 수렴 속도와 로그 요소의 오차 범위 내에서 일치한다.
• 수렴 속도는 상호작용 행렬 $W$ 의 고유값 간격 $\gamma$ 에 따라 달라지며, 네트워크 통신 제약 조건으로 인해 추가로 $\sqrt{\chi(W)}$ 의 비용이 발생한다.
• 시간에 따라 변화하는 그래프의 경우, 변화가 흐리게 발생하고 감지 가능할 경우 재시작 기법을 통해 $O(\sqrt{\chi(W)}\log \varepsilon^{-1})$ 의 통신 단계를 유지할 수 있다.
• 체비셰프 가속 기법을 통해 변환된 행렬 $P_K(W)$ 를 사용할 수 있으며, 이는 조건 수를 개선하여 $K = \sqrt{\chi(W)}$ 일 때 $\chi(P_K(W)) \sim 1$ 이 되도록 한다.
• 강한 볼록성과 부드러움을 $\ell_p$-유도 노름 공간에서 재정의함으로써, $p$-노름 및 홀더 부드러운 함수로 결과를 일반화할 수 있다.
• 제시된 결과는 주어진 가정 하에 어떤 분산 알고리즘도 이론적으로 유도된 수렴 속도를 초월할 수 없으며, 로그 또는 상수 요소의 오차 범위 내에서 최적이므로 최적이다.