[논문 리뷰] Linear Time Average Consensus on Fixed Graphs and Implications for Decentralized Optimization and Multi-Agent Control

Alex Olshevsky|arXiv (Cornell University)|2014. 11. 15.

Distributed Control Multi-Agent Systems참고 문헌 63인용 수 61

한 줄 요약

이 논문은 고정된 무방향 그래프에 대해 선형 수렴 시간을 달성하는 분산 평균 공감 프로토콜을 제안한다. 이 프로토콜은 총 노드 수에 대한 상수 요소 상한만 알고 있으면 되며, 노드 수에 대해 선형 수렴 시간을 보장한다. 프로토콜은 메모리 기반 업데이트와 유계 서브기울기와 함께 하향 경사법을 활용하여 분산 최적화, 형성 제어, 리더-팔로워 제어에서 선형 시간 수렴을 가능하게 한다.

ABSTRACT

We describe a protocol for the average consensus problem on any fixed undirected graph whose convergence time scales linearly in the total number nodes $n$. The protocol is completely distributed, with the exception of requiring all nodes to know the same upper bound $U$ on the total number of nodes which is correct within a constant multiplicative factor. We next discuss applications of this protocol to problems in multi-agent control connected to the consensus problem. In particular, we describe protocols for formation maintenance and leader-following with convergence times which also scale linearly with the number of nodes. Finally, we develop a distributed protocol for minimizing an average of (possibly nondifferentiable) convex functions $ (1/n) \sum_{i=1}^n f_i(θ)$, in the setting where only node $i$ in an undirected, connected graph knows the function $f_i(θ)$. Under the same assumption about all nodes knowing $U$, and additionally assuming that the subgradients of each $f_i(θ)$ have absolute values upper bounded by some constant $L$ known to the nodes, we show that after $T$ iterations our protocol has error which is $O(L \sqrt{n/T})$.

연구 동기 및 목표

• 고정된 무방향 그래프에서 선형 수렴 시간을 갖는 분산 공감 프로토콜을 설계한다.
• 공감 프로토콜을 활용해 분산 최적화, 형성 제어, 리더-팔로워 제어에서 빠른 수렴을 가능하게 한다.
• 노드 수에 비례해 수렴 시간이 선형으로 증가함을 보장하며, 선형 및 락킷 그래프와 같은 도전적인 구조에서도 성립함을 보장한다.
• 유계 서브기울기 조건 하에서 분산 최적화의 오차 감소에 대한 이론적 보장을 제공한다.
• 최소한의 전역 지식으로도 실제 다중 에이전트 시스템에 적용 가능한 공감 프로토콜의 적용 범위를 확장한다.

제안 방법

• 각 노드가 자신의 이전 값과 이웃의 이전 값을 기반으로 상태를 유지하고 업데이트하는 메모리 기반 업데이트를 사용한다.
• 현재 상태와 이전 상태, 이웃의 값의 선형 조합을 활용하여 수렴 속도를 가속화한다.
• 분산 최적화의 경우, 오차 감소가 $ O(L\sqrt{n/T}) $가 되도록 보장하는 단계 크기를 갖는 서브기울기 강하법을 적용한다.
• 모든 노드가 $ n $에 대한 상수 요소 상한 $ U $를 알고 있음을 가정하여 분산 조율을 가능하게 한다.
• 이론적 분석은 그래프의 스펙트럼 성질과 초기 편차 및 서브기울기 크기의 상한에 기반한다.
• 선형 및 락킷 그래프에서의 검증을 통해, 구조적 제약이 있음에도 불구하고 일관된 선형 수렴을 보여준다.

실험 결과

연구 질문

• RQ1 전체 그래프 지식이 없이도 고정된 무방향 그래프에서 분산 공감 프로토콜이 선형 수렴 시간을 달성할 수 있는가?
• RQ2 기본적인 볼록 조합 방법에 비해 메모리 기반 업데이트는 평균 공감의 수렴 속도를 어떻게 향상시킬 수 있는가?
• RQ3 유계 서브기울기 조건 하에서 비미분 가능한 볼록 함수의 분산 최적화에서 달성 가능한 수렴 속도는 무엇인가?
• RQ4 제안된 프로토콜은 형성 유지 및 리더-팔로워 작업에서도 선형 수렴을 유지할 수 있는가?
• RQ5 선형 또는 락킷 그래프와 같은 네트워크 구조는 프로토콜의 수렴 행동에 어떤 영향을 미치는가?

주요 결과

• 제안된 공감 프로토콜은 노드 수 $ n $ 에 대해 선형 수렴 시간 $ O(n) $ 을 달성하며, 그래프의 스펙트럼 갭과는 독립적이다.
• 표준 공감 프로토콜이 느리게 작동하는 것으로 알려진 도전적인 구조인 선형 및 락킷 그래프에서도 프로토콜은 선형 수렴을 유지한다.
• 분산 최적화의 경우, $ T $ 반복 후 오차는 $ O(L\sqrt{n/T}) $ 로 감소하며, $ L $ 은 서브기울기 상한이다.
• 모든 노드가 $ n $ 에 대한 상수 요소 상한 $ U $ 를 안다는 조건만 충족하면 되며, 이는 전역 지식 없이도 완전한 분산 환경을 가능하게 한다.
• 동일한 기반 공감 메커니즘을 활용하여 형성 유지 및 리더-팔로워 작업에서도 선형 수렴을 달성한다.
• 실험 결과는 선형 및 락킷 그래프에서 $ T = 4n $ 반복으로도 중앙값을 높은 정확도로 계산하는 데 충분함을 확인한다.