[논문 리뷰] Linear convergence in directed optimization with row-stochastic matrices

Chenguang Xi, Van Sy외 2명|arXiv (Cornell University)|2016. 11. 18.

Distributed Control Multi-Agent Systems인용 수 2

한 줄 요약

이 논문은 방향성 네트워크를 위한 분산 최적화 알고리즘을 제안하며, 에이전트가 이웃의 출력 차수를 알고 있을 필요 없이 선형 수렴성을 달성한다. 행 방향 스토하스틱 행렬을 활용함으로써, 리프시츠 연속 기울기를 가지는 강凸 함수에 대해 기존의 최고 수준의 수렴 속도인 $O(\mu^k)$를 달성하며, 이는 이전 방법들에 비해 출력 차수 지식에 의존하지 않는다는 점에서 뛰어나다.

ABSTRACT

This paper considers a distributed optimization problem over a multi-agent network, in which the objective function is a sum of individual cost functions at the agents. We focus on the case when communication between the agents is described by a \emph{directed} graph. Existing distributed optimization algorithms for directed graphs require at least the knowledge of the neighbors' out-degree at each agent (due to the requirement of column-stochastic matrices). In contrast, our algorithm requires no such knowledge. Moreover, the proposed algorithm achieves the best known rate of convergence for this class of problems, $O(\mu^k)$ for $0<\mu<1$, where $k$ is the number of iterations, given that the objective functions are strongly-convex and have Lipschitz-continuous gradients. Numerical experiments are also provided to illustrate the theoretical findings.

연구 동기 및 목표

• 기존의 방향성 그래프를 위한 분산 최적화 알고리즘에서 에이전트가 이웃의 출력 차수를 알고 있어야 하는 제약 조건을 해결하기 위해.
• 열 스토하스틱 행렬이나 출력 차수 정보에 의존하지 않고도 선형 수렴성을 유지하는 방법을 개발하기 위해.
• 강凸성과 리프시츠 기울기 가정 하에 방향성 네트워크에서 분산 최적화의 가장 잘 알려진 수렴 속도를 달성하기 위해.
• 이론적 결과를 수치 실험을 통해 검증하여 알고리즘의 효과성을 입증하기 위해.

제안 방법

• 알고리즘은 통신을 모델링하기 위해 행 방향 스토하스틱 가중치 행렬을 사용하여, 출력 차수 정보 없이도 수렴성을 보장한다.
• 합의 기반 업데이트 규칙을 적용하여 각 에이전트가 로컬 기울기와 들어오는 이웃들로부터 온 정보를 행 방향 스토하스틱 가중치를 사용해 조합한다.
• 강凸 목적 함수와 리프시츠 연속 기울기를 가정할 때 선형 수렴성을 유지하도록 설계된다.
• 수렴 속도 분석은 라파노프 함수 방법을 사용하여 수행되며, $0 < \mu < 1$에 대해 $O(\mu^k)$ 수렴이 입증된다.
• 기존 연구에서 일반적으로 사용되는 합의 보존을 위해 필요한 열 스토하스틱 행렬을 피한다.
• 이론적 수렴 속도와 실용적 환경에서의 강건성을 검증하기 위해 수치 실험을 수행한다.

실험 결과

연구 질문

• RQ1 방향성 네트워크에서 분산 최적화가 에이전트가 이웃의 출력 차수를 알고 있을 필요 없이 선형 수렴성을 달성할 수 있는가?
• RQ2 강凸성과 리프시츠 기울기 가정 하에 방향성 네트워크에서 분산 최적화의 최고로 달성 가능한 수렴 속도는 무엇인가?
• RQ3 어떻게 하면 열 스토하스틱 행렬에 의존하지 않고도 효과적으로 수렴하는 알고리즘을 설계할 수 있는가?
• RQ4 제안된 방법은 수렴 속도와 통신 요구사항 측면에서 기존 알고리즘을 능가하는가?

주요 결과

• 제안된 알고리즘은 $0 < \mu < 1$에 대해 수렴 속도 $O(\mu^k)$를 달성하며, 문헌상으로 가장 잘 알려진 속도와 일치한다.
• 이 방법은 에이전트가 이웃의 출력 차수를 알고 있을 필요가 없어, 이전 방법의 핵심적 제약을 극복한다.
• 행 방향 스토하스틱 행렬의 사용은 열 스토하스틱 가정이 필요 없이도 수렴성을 보장함으로써 구현을 단순화한다.
• 수치 실험을 통해 이론적 수렴 속도가 확인되었으며, 알고리즘이 방향성 네트워크 환경에서 효과적임을 입증한다.