[논문 리뷰] Load balancing system under Join the Shortest Queue: Many-Server-Heavy-Traffic Asymptotics

Daniela Hurtado-Lange, Siva Theja Maguluri|arXiv (Cornell University)|2020. 04. 09.

Advanced Queuing Theory Analysis참고 문헌 17인용 수 6

한 줄 요약

이 논문은 다수의 서버를 가진 중복 병행 처리 환경에서 Join the Shortest Queue (JSQ) 부하 균형 시스템을 다루며, 총 서비스율과 도착율 간의 차이가 $N^{1-\beta}$로 스케일링되는 고부하 상태에서 분석을 수행한다. $α > 4$일 경우, 정규화된 평균 대기열 길이가 지수 분포로 수렴함을 입증하고, 라플라스 변환과 스텐의 방법을 사용하여 상태공간 붕괴를 증명하며, Wasserstein 거리에서 명시적인 수렴 속도를 제공한다.

ABSTRACT

We study the load balancing system operating under Join the Shortest Queue (JSQ) in the many-server heavy-traffic regime. If $N$ is the number of servers, we let the difference between the total service rate and the total arrival rate be $N^{1-α}$ with $α>0$. We show that for $α>4$ the average queue length behaves similarly to the classical heavy-traffic regime. Specifically, we prove that the distribution of the average queue length multiplied by $N^{1-α}$ converges to an exponential random variable. Moreover, we show a result analogous to state space collapse. We provide two proofs for our result: one using the one-sided Laplace transform, and one using Stein's method. We additionally obtain the rate of convergence in the Wasserstein's distance.

연구 동기 및 목표

• 다수의 서버를 가진 고부하 상태에서 Join the Shortest Queue (JSQ) 정책을 적용한 부하 균형 시스템의 정적 상태 행동을 연구한다.
• 시스템이 포화에 가까운 상태에서 평균 대기열 길이의 점근적 분포를 기술한다. 이때 서비스율과 도착율 간 격차는 $N^{1-\beta}$로 스케일링된다.
• 한계에서 상태공간 붕괴(SSF)를 확립하여, 시스템이 일차원 과정처럼 행동함을 보인다.
• 정규화된 대기열 길이의 지수 극한을 증명하기 위해 두 가지 다른 증명 방법—일방 라플라스 변환과 스텐의 방법—을 제공한다.
• 수렴 속도를 Wasserstein 거리 기준으로 정량화한다.

제안 방법

• 시스템을 $N$개의 서버로 구성된 병렬 서버 대기열 네트워크로 모델링하며, 도착자는 JSQ 정책에 따라 가장 짧은 대기열로 라우팅된다.
• 다수의 서버 고부하 상태를 반영하기 위해 총 서비스율과 도착율 간 격차가 $N^{1-\beta}$가 되도록 스케일링을 도입한다. 이때 $\beta > 0$이다.
• 일방 라플라스 변환을 사용하여 정규화된 평균 대기열 길이의 모멘트 생성 함수를 분석하고, 지수 분포로의 수렴을 도출한다.
• 스텐의 방법을 적용하여 확률적 수렴이 지수 랜덤 변수로 수렴함을 증명하며, 비점근적 수렴 속도를 제공한다.
• 드리프트 방법과 리아푸노프 드리프트 추론을 사용하여 상태공간 붕괴를 확립하며, 시스템 상태가 일차원 부분공간에 집중됨을 보인다.
• 횔더 부등식과 모멘트 유계를 사용하여 정규화된 대기열 길이와 극한 지수 분포 사이의 Wasserstein 거리에 대한 유계를 도출한다.

실험 결과

연구 질문

• RQ1 JSQ 정책 하에서 다수의 서버 고부하 상태에서 평균 대기열 길이의 극한 분포는 무엇인가? 이때 시스템이 거의 불안정해지는 조건이 성립할 경우에 대해 질문한다.
• RQ2 파라미터 $\alpha$가 변화할 때 시스템 행동은 어떻게 변화하는가? 특히 $\alpha > 4$일 경우에 대해 질문한다.
• RQ3 이 상태에서 상태공간 붕괴를 엄밀히 증명할 수 있는가? 그리고 이는 시스템 차원성에 어떤 영향을 미치는가?
• RQ4 정규화된 대기열 길이가 지수 극한으로 수렴하는 속도는 무엇이며, 이를 어떻게 정량화할 수 있는가?
• RQ5 변환 기반 접근과 스텐의 방법을 모두 사용하여 동일한 극한을 증명할 수 있는가? 각 방법의 장점은 무엇인가?

주요 결과

• $\alpha > 4$일 경우, $N^{1-\beta}$로 스케일링된 정규화된 평균 대기열 길이의 분포가 지수 랜덤 변수로 확률적 수렴을 이룬다.
• 논문은 상태공간 붕괴와 유사한 결과를 도출하여, 한계에서 시스템 상태가 일차원 부분공간에 집중됨을 보였다.
• 두 가지 다른 증명이 제공된다: 하나는 일방 라플라스 변환을 사용하고, 다른 하나는 스텐의 방법을 사용하며, 모두 지수 극한을 확인한다.
• Wasserstein 거리에서의 수렴 속도가 정량화되었으며, 오차는 $p$가 1에 가까울 경우 $O(N^{4-2\alpha + (1-\alpha)/p})$로 감소한다. 이는 $\alpha > 4$일 경우 $o(N^{1-2\alpha})$가 된다.
• 분석 결과, 고전적인 고부하 행동은 오직 $\alpha > 4$일 때 나타나며, 이는 시스템 행동에 단계 전이가 존재함을 시사한다.
• 내적의 기대값 $\mathbb{E}[\langle \overline{\mathbf{q}}_{\parallel}, \overline{\mathbf{u}}_{\parallel} \rangle]$에 대한 유계는 횡거 부등식과 모멘트 유계를 사용하여 도출되었으며, 오차 항을 최소화하기 위해 최적의 $r$ 값으로 $r = \lceil \alpha - 1 \rceil \lceil \log N \rceil$을 선택하였다.