[논문 리뷰] Optimization over time-varying directed graphs with row and column-stochastic matrices

Fakhteh Saadatniaki, Ran Xin외 1명|arXiv (Cornell University)|2018. 10. 17.

Distributed Control Multi-Agent Systems참고 문헌 52인용 수 11

한 줄 요약

이 논문은 비균일 페로니 고유벡터 추정이 필요 없이 선형 수렴를 달성하기 위해 행과 열 양태의 스 tochastic 가중치 행렬을 사용하는 분산 최적화 알고리즘 TV-$\mathcal{AB}$를 제안한다. 이 방법은 유한한 연결성 조건 하에서 최적 해에 대한 합의를 보장하며, 안정성 분석과 행렬 섭동 이론을 통해 매끄럽고 강凸인 목표 함수에 대해 선형 수렴를 달성한다.

ABSTRACT

In this paper, we provide a distributed optimization algorithm, termed as TV-$\mathcal{AB}$, that minimizes a sum of convex functions over time-varying, random directed graphs. Contrary to the existing work, the algorithm we propose does not require eigenvector estimation to estimate the (non-$\mathbf{1}$) Perron eigenvector of a stochastic matrix. Instead, the proposed approach relies on a novel information mixing approach that exploits both row- and column-stochastic weights to achieve agreement towards the optimal solution when the underlying graph is directed. We show that TV-$\mathcal{AB}$ converges linearly to the optimal solution when the global objective is smooth and strongly-convex, and the underlying time-varying graphs exhibit bounded connectivity, i.e., a union of every $C$ consecutive graphs is strongly-connected. We derive the convergence results based on the stability analysis of a linear system of inequalities along with a matrix perturbation argument. Simulations confirm the findings in this paper.

연구 동기 및 목표

• 시간에 따라 변하는 방향성 통신 그래프에서 비균일 페로니 고유벡터 추정이 필요 없는 분산 최적화 알고리즘을 개발하는 것.
• 동적이고 방향성 있는 위상 구조를 가진 분산 환경에서 매끄럽고 강凸인 목표 함수에 대해 최적 해로의 선형 수렴를 달성하는 것.
• 기존 연구에서 사용된 감소하는 스텝 사이즈의 열등한 수렴 성능을 피하기 위해 이중 스 tochastic성에 기반한 새로운 정보 혼합 전략을 활용하는 것.
• 매 $C$개의 연속된 그래프의 합집합이 강연결성을 가지는 유한한 연결성 조건 하에서 수렴 보장을 확립하는 것.
• 시간에 따라 변하는 방향성 네트워크에서 선형 시스템 안정성과 행렬 섭동 분석을 기반으로 이론적 기반을 제공하는 것.

제안 방법

• 알고리즘은 순차적으로 적용되는 두 개의 시간에 따라 변하는 가중치 행렬을 사용한다: 하나는 행 스 tochastic이고 다른 하나는 열 스 tochastic이다. 이를 통해 방향성 그래프에서 에이전트 간의 합의를 가능하게 한다.
• 행과 열 스 tochastic 가중치를 조합하여 정보 흐름을 균형 있게 하고 최적 해에 대한 합의를 달성하는 새로운 정보 혼합 메커니즘을 도입한다.
• 기존 연구에서 사용된 감소하는 스텝 사이즈의 열등한 수렴 성능을 피하기 위해 일정한 스텝 사이즈를 사용한다.
• 수렴 분석은 알고리즘의 오차 역동성에 적용된 선형 부등식계와 행렬 섭동 이론에 기반한다.
• 알고리즘은 매 $\overline{C}$개의 반복 동안 슬라이딩 윈도우를 기반으로 분석되며, 각 윈도우 기간 동안 그래프의 합집합이 강연결성을 가진다.
• 시스템 행렬 $M^0$의 스펙트럼 성질을 분석하여, 1에 단순 고유값과 대응하는 단순 고유공간이 존재함을 보여 이론적 안정성을 확립한다.

실험 결과

연구 질문

• RQ1 비균일 페로니 고유벡터 추정 없이 시간에 따라 변하는 방향성 그래프에서 분산 최적화에서 선형 수렴를 달성할 수 있는가?
• RQ2 이중 스 tochastic성(행과 열 스 tochastic 가중치)은 시간에 따라 변하는 위상에서 방향성 그래프의 합의를 어떻게 가능하게 하는가?
• RQ3 동적이고 방향성 있는 통신을 가지는 그래프 시퀀스에서 알고리즘의 선형 수렴를 보장하기 위한 조건은 무엇인가?
• RQ4 감소하는 스텝 사이즈나 고도의 복잡도를 가진 하위문제 해결에 의존하지 않고도 수렴 속도를 비선형 수렴보다 향상시킬 수 있는가?
• RQ5 유한한 연결성(매 $C$개의 연속된 그래프의 합집합이 강연결성임)은 수렴 보장에 어떤 역할을 하는가?

주요 결과

• TV-$\mathcal{AB}$ 알고리즘은 연결성 조건이 유한한 시간에 따라 변하는 방향성 그래프에서 매끄럽고 강凸인 목표 함수에 대해 최적 해로의 선형 수렴를 달성한다.
• 수렴 속도는 선형이며, 오차는 기하급수적으로 감소한다. 이는 기반 그래프가 방향성이고 시간에 따라 변하지만도 성립한다.
• 기존의 푸시-섬 및 여유 공감 방법에서의 주요 제약 요소인 스 tochastic 행렬의 고유벡터 추정이 필요 없다.
• 이론적 분석을 통해 시스템 행렬 $M^0$의 스펙트럼 반경이 1이며, 1에 단순 고유값이 존재함을 확인하여 합의 부분공간으로의 수렴를 보장한다.
• 행렬 섭동 및 안정성 분석을 통해 오차 역동성을 제한하고, 가중치 오차가 기하급수적으로 감소함을 보여준다.
• 시뮬레이션은 이론적 결과를 검증하며, 시간에 따라 변하는 방향성 통신 패턴 하에서도 빠른 수렴성과 강건성을 보여준다.