[논문 리뷰] Push-sum on random graphs

Pouya Rezaeinia, Bahman Gharesifard외 2명|arXiv (Cornell University)|2017. 08. 02.

Distributed Control Multi-Agent Systems참고 문헌 31인용 수 26

한 줄 요약

이 논문은 시간에 따라 변화하는 랜덤 방향 그래프에서 평균 협의를 위한 푸시-섬 알고리즘의 거의 확실 수렴을 도입한 무작위성 조건인 '방향 무한 유량 성질'과 보조 상태에 대한 균일한 하한 조건 하에 증명한다. 또한 시간에 따라 변화하는 B-불가분 확률 행렬에 의해 생성된 수열에 대해 지수적 수렴 속도를 도출하여, 성능 한계가 명시된 비정적 랜덤 네트워크로의 푸시-섬 수렴을 일반화한다.

ABSTRACT

In this paper, we study the problem of achieving average consensus over a random time-varying sequence of directed graphs by extending the class of so-called push-sum algorithms to such random scenarios. Provided that an ergodicity notion, which we term the directed infinite flow property, holds and the auxiliary states of agents are uniformly bounded away from zero infinitely often, we prove the almost sure convergence of the evolutions of this class of algorithms to the average of initial states. Moreover, for a random sequence of graphs generated using a time-varying B-irreducible probability matrix, we establish convergence rates for the proposed push-sum algorithm.

연구 동기 및 목표

• 통신 토폴로지가 확률적이고 비정적인 시간에 따라 변화하는 랜덤 방향 그래프로 푸시-섬 알고리즘을 확장한다.
• 새로운 에르고딕성 조건인 '방향 무한 유량 성질' 하에, 푸시-섬 동역학이 초기 상태의 평균으로 거의 확실하게 수렴함을 입증한다.
• 시간에 따라 변화하는 B-불가분 랜덤 행렬 수열 하에서 보조 상태 변수가 무한히 자주 영으로부터 균일하게 떨어져 있음을 증명한다.
• 열-스토케스틱 행렬의 랜덤 수열에 대해 푸시-섬 알고리즘의 명시적 비점근 수렴 속도를 도출한다.
• 이전의 결정론적 및 정적 랜덤 그래프 결과를 더 넓은 비정적 랜덤 네트워크 모델로 일반화하며, 성능 보장을 정량화한다.

제안 방법

• 각 에이전트가 상태 변수와 가중치 변수를 유지하고, 시간에 따라 변화하는 랜덤 방향 그래프에서 局부 평균화를 통해 이를 갱신하는 푸시-섬 알고리즘을 제안한다.
• 푸시-섬의 거의 확실 수렴을 위한 필수 및 필요조건으로 '방향 무한 유량 성질'을 도입한다.
• 길이 B인 간격에 걸쳐 블록 구조 분석을 수행하여 동역학을 분리하고, 농도 부등식을 적용한다.
• 블록 간의 경험 전이 행렬이 기대값에서 벗어남을 제한하기 위해 Hoeffding의 부등식을 적용한다.
• 행렬 곱 분석과 로그 모멘트 한계를 활용하여 역가중치 변수의 성장률을 통제한다.
• 공준 오차의 기대 로그를 제한하고, 행렬 곱 편차에 대한 지수 꼬리 부등식을 사용하여 수렴 속도를 유도한다.

실험 결과

연구 질문

• RQ1 푸시-섬 알고리즘이 초기 상태 평균으로 거의 확실하게 수렴하는 무작위 네트워크 조건은 무엇인가?
• RQ2 비정적이고 시간에 따라 변화하는 랜덤 방향 그래프에서 푸시-섬의 수렴을 보장할 수 있는가?
• RQ3 기저 랜덤 행렬이 B-불가분이고 시간에 따라 변화할 경우 푸시-섬 알고리즘의 수렴 속도는 무엇인가?
• RQ4 보조 상태(가중치)는 시간이 지남에 따라 어떻게 행동하며, 어떤 조건에서 영으로부터 균일하게 떨어져 있을 수 있는가?
• RQ5 정적 경우를 초월해 랜덤 그래프에서 푸시-섬의 수렴 속도를 정량화할 수 있는가?

주요 결과

• 방향 무한 유량 성질이 성립하고 보조 상태가 무한히 자주 영으로부터 균일하게 떨어져 있을 경우, 푸시-섬 알고리즘이 초기 상태 평균으로 거의 확실하게 수렴한다.
• 랜덤 행렬 수열이 시간에 따라 변화하는 B-불가분 확률 행렬로 생성될 경우, 보조 상태에 대한 균일한 하한 조건이 거의 확실하게 만족된다.
• 이러한 B-불가분 수열에 대해 기대 공준 오차는 p²/(4B) 비례하는 비율로 지수적으로 감소한다. 여기서 p는 각 시도에서의 성공 확률이고 B는 블록 크기이다.
• 기대 로그 공준 오차에 대한 경계를 통해 수렴 속도를 정량화하였으며, 이는 고확률적으로 O(t/B)로 감소한다.
• 주어진 가정 하에 오차는 O(exp(−p²t/(4B)))의 속도로 감소함을 분석이 입증하였으며, 농도 부등식을 통해 명시적인 상수를 도출하였다.
• 이전의 결정론적 및 정적 랜덤 그래프에 대한 결과를 일반화하여, 비정적 랜덤 방향 네트워크에서 푸시-섬의 수렴 속도 분석을 처음으로 제공한다.