[논문 리뷰] Consensus Needs Broadcast in Noiseless Models but can be Exponentially Easier in the Presence of Noise

Andrea Clementi, Luciano Gualà외 4명|arXiv (Cornell University)|2018. 07. 15.

Distributed systems and fault tolerance참고 문헌 52인용 수 2

한 줄 요약

이 논문은 소음이 없는 분산 모델에서 Consensus는 Broadcast만큼 어렵거나 그것보다 더 어렵고, 균일한 GOSSIP 모델에서 라운드 수에 대해 날카로운 로그 상한선을 확립한다. 반대로, 소음이 있는 모델, 예를 들어 소음이 있는 균일한 PULL 모델에서는 Consensus가 Broadcast보다 지수적으로 쉬워질 수 있으며, 이는 Binary Consensus를 Θ(ε⁻² log n) 라운드 내에 달성할 수 있는 반면, Broadcast는 Θ(ε⁻²n log n) 라운드가 필요하여 소음에 의해 유도된 정보 집합화로 인해 복잡도에 지수적 격차가 발생함을 보여준다.

ABSTRACT

Consensus and Broadcast are two fundamental problems in distributed computing, whose solutions have several applications. Intuitively, Consensus should be no harder than Broadcast, and this can be rigorously established in several models. Can Consensus be easier than Broadcast? In models that allow noiseless communication, we prove a reduction of (a suitable variant of) Broadcast to binary Consensus, that preserves the communication model and all complexity parameters such as randomness, number of rounds, communication per round, etc., while there is a loss in the success probability of the protocol. Using this reduction, we get, among other applications, the first logarithmic lower bound on the number of rounds needed to achieve Consensus in the uniform GOSSIP model on the complete graph. The lower bound is tight and, in this model, Consensus and Broadcast are equivalent. We then turn to distributed models with noisy communication channels that have been studied in the context of some bio-inspired systems. In such models, only one noisy bit is exchanged when a communication channel is established between two nodes, and so one cannot easily simulate a noiseless protocol by using error-correcting codes. An Ω(ε^{-2} n) lower bound is proved by Boczkowski et al. [PLOS Comp. Bio. 2018] on the convergence time of binary Broadcast in one such model (noisy uniform PULL), where ε is a parameter that measures the amount of noise). We prove an O(ε^{-2} log n) upper bound on the convergence time of binary Consensus in such model, thus establishing an exponential complexity gap between Consensus versus Broadcast. We also prove our upper bound above is tight and this implies, for binary Consensus, a further strong complexity gap between noisy uniform PULL and noisy uniform PUSH. Finally, we show a Θ(ε^{-2} n log n) bound for Broadcast in the noisy uniform PULL.

연구 동기 및 목표

• 분산 시스템에서 Consensus와 Broadcast의 상대적 복잡도를 조사하는 것.
• 일부 통신 모델에서 Consensus가 Broadcast보다 엄밀히 쉬울 수 있는지 여부를 규명하는 것.
• 통신 소음이 두 문제의 라운드 복잡도에 미치는 영향을 분석하는 것.
• 소음이 있는 및 소음이 없는 모델에서 Broadcast와 Consensus의 날카로운 하한 및 상한을 확립하는 것.

제안 방법

• 소음이 없는 모델에서 이진 Consensus로의 변환을 제안하여 복잡도 매개변수를 유지하고, Consensus가 Broadcast만큼 어렵거나 그것보다 더 어렵다는 것을 보여준다.
• Chernoff 및 Union Bounds를 사용하여 소음이 있는 모델에서 k-다수결 동역학의 수렴을 분석하고, 편향이 있을 경우 빠른 공감에 도달함을 증명한다.
• 소음이 있는 균일한 PULL 모델을 위한 이중단계 프로토콜인 NoisyBroadcast를 설계: 첫 번째 단계는 소음이 있는 메시지를 집계하고, 두 번째 단계는 다수결 공감을 실행한다.
• Berry-Esseen 정리를 적용하여 메시지 분포를 정규 분포로 근사하여 확률적 분석을 수행한다.
• 확률적 불등식을 사용하여 NoisyBroadcast의 첫 번째 단계에서 잘못된 의견 선택 확률의 상한을 구한다.
• 확률적 분석과 정규 분포의 尾부 확률에 대한 경계를 사용하여 날카로운 점근적 경계를 유도한다.

실험 결과

연구 질문

• RQ1 어떤 분산 모델에서라도 Consensus가 Broadcast보다 엄밀히 쉬운가?
• RQ2 통신 소음은 Consensus와 Broadcast의 라운드 복잡도에 어떻게 영향을 미치는가?
• RQ3 소음을 활용하여 공감 프로토콜의 성능을 지수적으로 향상시킬 수 있는가?
• RQ4 소음이 있는 균일한 PULL 모델에서 Broadcast와 Consensus의 가장 날카로운 라운드 복잡도 경계는 무엇인가?

주요 결과

• 소음이 없는 균일한 GOSSIP 모델에서 Consensus는 Ω(log n) 라운드가 필요하며, 이는 이미 알려진 Broadcast의 하한과 일치하여 두 문제가 점근적으로 동일하다는 것을 증명한다.
• 소음이 있는 균일한 PULL 모델에서 Broadcast는 Θ(ε⁻²n log n) 라운드가 필요하며, 이는 알려진 하한과 일치하고 날카로운 경계임을 입증한다.
• 동일한 소음이 있는 모델에서 이진 Consensus는 Θ(ε⁻² log n) 라운드 내에 해결 가능하여, Broadcast와 비교해 지수적 격차를 보여준다.
• 지수적 격차는 소음 덕분에 정보 집합화가 더 빠르게 이루어지기 때문이다: 노드들은 낮은 신호 대 잡음 비율이라도 소음이 있는 비트 교환을 이용해 매우 빠르게 수렴할 수 있다.
• NoisyBroadcast 프로토콜은 거의 확실하게(O(ε⁻²n log n) 라운드 내에 Broadcast를 달성하며, 이는 하한과 일치하여 최적성임을 증명한다.
• 분석 결과, 소음이 있는 통신 조건에서도 선형 수준의 소음이 있는 풀링 이후 일정 비율의 노드들이 원본 값의 정확한 추론을 내릴 수 있음을 보여주며, 이는 빠른 공감을 가능하게 한다.