[논문 리뷰] Join the Shortest Queue with Many Servers. The Heavy Traffic Asymptotics

Patrick Eschenfeldt, David Gamarnik|arXiv (Cornell University)|2015. 02. 03.

Advanced Queuing Theory Analysis참고 문헌 13인용 수 13

한 줄 요약

이 논문은 반신뢰성 체제에서 대규모 큐잉 시스템에서 Join the Shortest Queue (JSQ) 정책을 분석한다. 마팅게일 방법과 약한 수렴을 사용하여, 스케일링된 공백 서버 수와 한 명의 대기 고객이 있는 큐의 수가 이차원 반사 옴스타인-울렌벡 과정으로 수렴하고, 더 긴 큐는 고정된 시간 내에 소멸됨을 보여준다. 핵심 결과는 대기 시간이 일정한 순서이지만, 대기하는 고객 비율은 점점 줄어들어 near-optimal 효율성을 유지한다는 것이다.

ABSTRACT

We consider queueing systems with n parallel queues under a Join the Shortest Queue (JSQ) policy in the Halfin-Whitt heavy traffic regime. We use the martingale method to prove that a scaled process counting the number of idle servers and queues of length exactly 2 weakly converges to a two-dimensional reflected Ornstein-Uhlenbeck process, while processes counting longer queues converge to a deterministic system decaying to zero in constant time. This limiting system is comparable to that of the traditional Halfin-Whitt model, but there are key differences in the queueing behavior of the JSQ model. In particular, only a vanishing fraction of customers will have to wait, but those who do will incur a constant order waiting time.

연구 동기 및 목표

• 반신뢰성 체제에서 대규모 병렬 큐잉 시스템의 임시적 행동을 Join the Shortest Queue (JSQ) 정책으로 분석하기.
• 서버 수 n이 무한으로 갈 때 공백 서버 수와 정확히 한 명의 대기 고객이 있는 큐의 수의 극한 행동을 기술하기.
• JSQ 정책 하에서 길이 2 이상의 큐가 초기에 존재하더라도 고정된 시간 내에 0으로 감소함을 보여주기.
• 특히 임시적 체제에서 시스템의 총 대기 시간과 고객당 대기 시간을 정량화하기.
• 스케일링된 시스템이 고유한 해를 가지는 확산 과정으로 약한 수렴함을 증명하여 渐近 분석이 가능하도록 하기.

제안 방법

• 저자들은 반신뢰성 체제에서 $M/M/n$-JSQ 시스템의 유체 및 확산 극한을 분석하기 위해 마팅게일 방법을 사용한다.
• 큐 길이가 2를 초과하지 않도록 제한하는 $M/M/n$-JSQ 시스템의 절단된 버전을 도입하여 유한 차원 분석이 가능하도록 한다.
• 공백 서버 수와 길이 1인 큐를 세는 스케일링된 과정이 이차원 반사 옴스타인-울렌벡 과정으로 약한 수렴함을 증명한다.
• 길이 ≥2인 큐를 세는 과정이 고정된 시간 내에 0으로 감소하는 결정론적 시스템으로 수렴함을 보여준다.
• 고정점 논증을 통해 제한 확률적 적분 방정식의 존재성과 유일성을 확립한다.
• 증명은 $n \to \infty$일 때 절단 장벽에 도달할 확률이 0으로 수렴한다는 사실에 기반하여, 절단된 시스템과 원래 시스템 간의 渐近 동치성을 보장한다.

실험 결과

연구 질문

• RQ1 JSQ 정책 하에서 반신뢰성 체제에서 공백 서버 수와 한 명의 대기 고객이 있는 큐의 수는 어떻게 행동하는가?
• RQ2 $n \to \infty$일 때 $M/M/n$-JSQ 시스템에서 길이 2 이상의 큐의 극한 행동은 무엇인가?
• RQ3 JSQ 정책 하에서 고객의 대기 시간의 점근적 분포는 무엇인가?
• RQ4 총 대기 시간은 $n$에 따라 어떻게 척도화되며, 임시적 체제에서 고객당 대기 시간은 어떻게 되는가?
• RQ5 n번째 시스템의 정적분포가 제한 확산 과정의 정적분포로 수렴하는가?

주요 결과

• 스케일링된 공백 서버 수와 한 명의 대기 고객이 있는 큐의 수가 이차원 반사 옴스타인-울렌벡 과정으로 약한 수렴한다.
• 길이 2 이상의 큐는 고정된 시간 내에 0으로 감소하며, 다시 나타나지 않으며, 초기에 존재하더라도 마찬가지다.
• 시간 $[0,t]$ 동안의 총 대기 시간은 고확률으로 $O(\sqrt{n})$이며, 이는 고객당 대기 시간이 $O(1/\sqrt{n})$임을 의미한다.
• 대기 시간을 겪는 고객 비율은 $O(1/\sqrt{n})$이며, 이는 오직 점점 줄어드는 비율의 고객만 대기해야 한다는 의미다.
• 대기하는 고객은 서비스 중인 고객의 서비스 시간 덕분에 비율 1인 지수분포로 일정한 순서의 대기 시간을 경험한다.
• 제한 시스템은 반신뢰성 모델과 유사하지만, 다소 다른 큐잉 행동을 보인다: 최소한의 대기 시간 손실이지만, 소수의 고객에게는 비영향 없는 대기 시간이 존재한다.