[논문 리뷰] Fast Distributed Computation in Dynamic Networks via Random Walks

Atish Das Sarma, Anisur Rahaman Molla외 1명|arXiv (Cornell University)|2012. 05. 24.

Distributed systems and fault tolerance참고 문헌 28인용 수 4

한 줄 요약

이 논문은 시간이 지남에 따라 임의로 변화하는 동적 네트워크에서 랜덤 워크를 수행하기 위한 최초의 빠르고 완전히 분산된 알고리즘을 제시한다. 동적 그래프에서 정적 분포를 정의하는 새로운 프레임워크를 도입하며, 정적 분포에서 샘플링을 위한 라운드 복잡도를 Õ(√(τΦ))로 달성하여 길이 ℓ인 랜덤 워크에 대한 난이도 높은 O(ℓ) 방법에 비해 크게 향상시킨다.

ABSTRACT

The paper investigates efficient distributed computation in dynamic networks in which the network topology changes (arbitrarily) from round to round. Our first contribution is a rigorous framework for design and analysis of distributed random walk algorithms in dynamic networks. We then develop a fast distributed random walk based algorithm that runs in $ ilde{O}(\sqrt{τΦ})$ rounds (with high probability), where $τ$ is the dynamic mixing time and $Φ$ is the dynamic diameter of the network respectively, and returns a sample close to a suitably defined stationary distribution of the dynamic network. We also apply our fast random walk algorithm to devise fast distributed algorithms for two key problems, namely, information dissemination and decentralized computation of spectral properties in a dynamic network. Our next contribution is a fast distributed algorithm for the fundamental problem of information dissemination (also called as gossip) in a dynamic network. In gossip, or more generally, $k$-gossip, there are $k$ pieces of information (or tokens) that are initially present in some nodes and the problem is to disseminate the $k$ tokens to all nodes. We present a random-walk based algorithm that runs in $ ilde{O}(\min\{n^{1/3}k^{2/3}(τΦ)^{1/3}, nk\})$ rounds (with high probability). To the best of our knowledge, this is the first $o(nk)$-time fully-distributed token forwarding algorithm that improves over the previous-best $O(nk)$ round distributed algorithm [Kuhn et al., STOC 2010], although in an oblivious adversary model. Our final contribution is a simple and fast distributed algorithm for estimating the dynamic mixing time and related spectral properties of the underlying dynamic network.

연구 동기 및 목표

• 라운드마다 임의로 변화하는 네트워크 구조를 가진 동적 네트워크에서 랜덤 워크 샘플링을 위한 효율적인 분산 알고리즘을 설계하는 것.
• 무감지 적대자 모델 하에서 변화하는 그래프에서 정적 분포를 정의하고 계산하는 엄밀한 프레임워크를 수립하는 것.
• 정보 확산(gossip) 및 스펙트럼 성질 추정과 같은 핵심 문제들에 대해 빠른 분산 알고리즘을 개발하는 것.
• 랜덤 워크 샘플링에 대해 선형 이하의 라운드 복잡도를 달성하여 길이 ℓ인 워크에 대한 기존의 O(ℓ) 시간에 비해 향상시키는 것.
• 정적 분포 수렴에 대한 증명 가능한 보장을 제공하고, 동적 혼합 시간 및 스펙트럼 성질을 추정하는 것.

제안 방법

• 무감지 적대자가 네트워크 구조 변화를 제어하는 조건 하에서 동적 네트워크에서 정적 분포를 정의하는 공식적 프레임워크를 제안한다.
• 혼합 시간을 통계적 가설 검정을 통해 추정하기 위해 길이 ℓ가 반복적으로 두 배가 되는 다수의 독립적인 랜덤 워크를 사용한다.
• Batu 등 [4]의 알고리즘을 분산 시뮬레이션하여 워크 샘플의 경험 분포를 균일(정적) 분포와 비교한다.
• 작은 메시지 크기와 국소 지식만을 가정하며, 전역 네트워크 구조 인식이 없는 CONGEST 모델을 활용한다.
• 랜덤 워크 프리미티브를 서브루틴으로 사용하여 정보 확산(k-토큰 확산) 및 스펙트럼 성질 추정 문제를 해결한다.
• 고정된 거듭제곱 2의 범위에서의 이진 탐색을 통해 높은 확률로 혼합 시간 임계값을 효율적으로 탐색한다.

실험 결과

연구 질문

• RQ1 임의의 네트워크 구조 변화가 발생하는 동적 네트워크에서 랜덤 워크를 사용하여 정적 분포에서 효율적으로 샘플링할 수 있는가?
• RQ2 CONGEST 모델 하에서 동적 네트워크에서 단일 랜덤 워크를 수행하는 데 최적의 라운드 복잡도는 무엇인가?
• RQ3 랜덤 워크를 사용하여 동적 네트워크에서 k-토큰 확산(gossip)을 위한 빠른 분산 알고리즘을 설계할 수 있는가?
• RQ4 동적 혼합 시간과 관련된 스펙트럼 성질(예: 스펙트럼 갭, 도전도)을 분산 방식으로 효율적으로 추정할 수 있는가?
• RQ5 제안된 랜덤 워크 기반 알고리즘이 동적 네트워크 계산의 라운드 복잡도 측면에서 최적인가?

주요 결과

• 제안된 랜덤 워크 알고리즘은 높은 확률로 Õ(√(τΦ))라운드 내에 수행되며, 여기서 τ는 동적 혼합 시간이고 Φ는 동적 지름이다.
• 알고리즘은 네트워크의 임의의 네트워크 구조 변화가 발생하더라도 정적 분포에 가까운 분포에서 샘플링을 성공적으로 수행한다.
• n^{1/3}k^{2/3}(τΦ)^{1/3} 또는 nk 중 최소값을 기준으로 Õ(min{n^{1/3}k^{2/3}(τΦ)^{1/3}, nk})라운드 내에 실행되는 빠른 분산 정보 확산 알고리즘을 설계하였다. 이는 이전의 O(nk) bound에 비해 향상된 결과이다.
• 소스 노드 x에 대한 동적 혼합 시간 τ^x_mix 는 Õ(n^{1/4}√(Φτ^x(ε)))라운드 내에서 추정 가능하며, ε = 1/(6912e√n log n)일 때 τ^x_mix ≤ τ^x(ε)를 만족한다.
• 추정된 혼합 시간을 바탕으로 알려진 부등식을 활용해 스펙트럼 갭과 도전도를 근사화할 수 있으며, 이는 분산 스펙트럼 분석을 가능하게 한다.
• 프레임워크와 알고리즘은 완전히 분산되어 있으며 전역 지식이 필요 없으며, 무감지 적대자 모델 하에서도 강건하다.