[논문 리뷰] Self-stabilizing Balls & Bins in Batches

Petra Berenbrink, Tom Friedetzky외 4명|arXiv (Cornell University)|2016. 03. 07.

Distributed systems and fault tolerance참고 문헌 6인용 수 4

한 줄 요약

이 논문은 매 라운드당 λn개의 공이 도착하고, 비어 있지 않은 모든 상자에서 한 개의 공이 삭제되는 배치 처리, 무한한 볼-인-빈 모델을 제안한다. 이는 분산 시스템에서의 동적 요청 처리를 모델링한다. 그레디[d] 할당 전략을 분석하고, 임의의 도착률 λ < 1에 대해 시스템이 자기 안정성(self-stabilizing)을 보임을 증명한다. 이 경우 d=1일 때 최대 로드는 O(1/(1−λ) · log(n/(1−λ)))이며, d=2일 땐 O(log(n/(1−λ)))이다. 그레디[2]는 고도착률 환경에서 그레디[1]보다 지수적으로 뛰어난 로드 밸런싱 성능을 보인다.

ABSTRACT

A fundamental problem in distributed computing is the distribution of requests to a set of uniform servers without a centralized controller. Classically, such problems are modeled as static balls into bins processes, where $m$ balls (tasks) are to be distributed to $n$ bins (servers). In a seminal work, Azar et al. proposed the sequential strategy \greedy{d} for $n=m$. When thrown, a ball queries the load of $d$ random bins and is allocated to a least loaded of these. Azar et al. showed that $d=2$ yields an exponential improvement compared to $d=1$. Berenbrink et al. extended this to $m\gg n$, showing that the maximal load difference is independent of $m$ for $d=2$ (in contrast to $d=1$). We propose a new variant of an \emph{infinite} balls into bins process. Each round an expected number of $\lambda n$ new balls arrive and are distributed (in parallel) to the bins. Each non-empty bin deletes one of its balls. This setting models a set of servers processing incoming requests, where clients can query a server's current load but receive no information about parallel requests. We study the \greedy{d} distribution scheme in this setting and show a strong self-stabilizing property: For \emph{any} arrival rate $\lambda=\lambda(n)<1$, the system load is time-invariant. Moreover, for \emph{any} (even super-exponential) round $t$, the maximum system load is (w.h.p.) $O(\frac{1}{1-\lambda}\cdot\log\frac{n}{1-\lambda})$ for $d=1$ and $O(\log\frac{n}{1-\lambda})$ for $d=2$. In particular, \greedy{2} has an exponentially smaller system load for high arrival rates.

연구 동기 및 목표

• 중앙 집중식 제어 없이 동적 분산 요청 처리를 모델링하기 위해 요청이 배치로 도착하고, 각 라운드마다 서버가 한 개의 작업을 삭제하는 환경을 설정한다.
• 무한하고 배치 기반의 볼-인-빈 과정에서 그레디[d] 할당 전략의 안정성과 로드 분포를 분석한다.
• 임의의 초기 상태에서 도착률 λ < 1 이하일 경우 시스템이 자기 안정성(self-stabilizing)을 보임을 입증한다.
• d=1과 d=2의 경우 최대 시스템 로드를 정량화하여, 배치 처리 및 동적 환경에서 두 번째 선택의 힘(power of two choices)이 가지는 근본적인 이점을 규명한다.

제안 방법

• 매 라운드당 λn개의 공이 도착하고, 비어 있지 않은 각 상자에서 한 개의 공이 삭제되는 배치 처리, 무한한 볼-인-빈 과정을 제안한다.
• 시스템 로드를 추적하고 수렴성을 분석하기 위해 잠재함수 Ψ(X(t))를 도입하며, 이는 로드 불균형과 상자 로드 분포를 모두 반영한다.
• 두 부분으로 나누어진 잠재함수 Γ(X(t)) = Φ(X(t)) + Ψ(X(t))를 사용한다. 여기서 Φ는 로드 불균형을 측정하고, Ψ는 상자 로드 분포를 추적한다.
• 부정적 드리프트 분석과 하제크(Hajek)-유형 안정성 정리들을 적용하여, 정상 재시작성(positive recurrence)과 자기 안정성을 증명한다.
• 농도 경계와 라멘트 W 함수 근사법을 사용하여 고도착률 조건에서 최대 로드를 근사한다.
• 두 번째 선택의 힘(Greedy[2])을 활용하여 로그 스케일링의 로드를 달성하며, 이는 그레디[1]의 선형-로그 스케일링과 대비된다.

실험 결과

연구 질문

• RQ1 병렬 도착과 삭제가 가능한 배치 처리, 무한한 볼-인-빈 과정에서, 임의의 초기 로드와 도착률 λ < 1 조건 하에 시스템이 자기 안정성을 가지는가?
• RQ2 이 배치 처리 동적 모델에서 그레디[1] 전략의 최대 시스템 로드는 얼마이며, n과 λ에 따라 어떻게 스케일링되는가?
• RQ3 고도착률 환경에서 그레디[2] 전략은 그레디[1]에 비해 로드 분포와 안정성 측면에서 어떻게 다를까?
• RQ4 초기 상태가 지수적으로 높은 로드일 경우에도 시스템은 낮은 최대 로드를 유지하는가? 만약 그렇다면 얼마나 빨리 안정화되는가?
• RQ5 요청이 동시에 도착하고 상호 관찰이 불가능한 배치 처리 및 병렬 환경에서 두 번째 선택의 힘을 유지하고 활용할 수 있는가?

주요 결과

• 그레디[1]의 경우, 어떤 시간대에서든 최대 시스템 로드는 (w.h.p.) O(1/(1−λ) · log(n/(1−λ)))로 유계이다. 이는 λ = 1 − 1/n일 때조차 초선형으로 증가한다.
• 그레디[2]의 경우, 최대 시스템 로드는 (w.h.p.) O(log(n/(1−λ)))로 유계이며, λ → 1에 가까워질수록 로그 스케일링을 유지한다.
• 시스템은 자기 안정성(self-stabilizing)을 보인다: 정상 재시작성이며, 임의의 (심지어 지수적으로 큰) 시간 t에서도 로드가 (w.h.p.) 낮다. 이는 강력한 안정성 보장을 의미한다.
• 분석을 통해 잠재함수 Ψ(X(t))가 (w.h.p.) O(n · log n)임을 입증하였으며, 이는 드리프트 분석과 결합되어 로드 유계를 확인한다.
• 그레디[1]에 대해 상한과 점 渐진적으로 일치하는 날카로운 하한을 확립하였으며, 이는 λ ≤ 1 − 1/poly(n) 조건에서 유계의 날카로움을 확인한다.
• 두 번째 선택의 힘은 고도착률(λ → 1) 조건에서 한 번의 선택보다 지수적으로 뛰어난 로드 분포를 제공한다.