[논문 리뷰] Analysis of Load Balancing in Large Heterogeneous Processor Sharing Systems

Arpan Mukhopadhyay, Ravi R. Mazumdar|arXiv (Cornell University)|2013. 11. 22.

Distributed and Parallel Computing Systems참고 문헌 17인용 수 12

한 줄 요약

이 논문은 다양한 서버 속도를 가진 대규모 이질적 프로세서 공유 시스템에서 무작위화된 Join-The-Shortest-Queue (JSQ) 기법을 분석한다. 표준 Power-of-Two JSQ 기법이 동일한 서버 속도를 가진 시스템에 비해 안정성 영역이 감소하는 것을 보여주지만, 최대 안정성을 회복하면서도 낮은 지연을 유지할 수 있는 하이브리드 정적-무작위 + JSQ 기법을 제안한다. 평균장 분석을 통해 정적 분포가 작업 크기 분포에 민감하지 않음을 입증한다.

ABSTRACT

We analyze randomized dynamic load balancing schemes for multi-server processor sharing systems when the number of servers in the system is large and the servers have heterogeneous service rates. In particular, we focus on the classical power-of-two load balancing scheme and a variant of it in which a newly arrived job is assigned to the server having the least instantaneous Lagrange shadow cost among two randomly chosen servers. The instantaneous Lagrange shadow cost at a server is given by the ratio of the number of unfinished jobs at the server to the capacity of the server. Two different approaches of analysis are presented for each scheme. For exponential job length distribution, the analysis is done using the mean field approach and for more general job length distributions the analysis is carried out assuming an asymptotic independence property. Analytical expressions to compute mean sojourn time of jobs are found for both schemes. Asymptotic insensitivity of the schemes to the type of job length distribution is established. Numerical results are presented to validate the theoretical results and to show that, unlike the homogeneous scenario, the power-of-two type schemes considered in this paper may not always result in better behaviour in terms of the mean sojourn time of jobs.

연구 동기 및 목표

• 비동일한 서버 속도를 가진 대규모 이질적 프로세서 공유 시스템에서 무작위화된 JSQ 기법의 안정성과 성능을 조사한다.
• 특히 동일한 서버 속도를 가진 시스템에 비해 안정성 영역이 축소되는 등, 표준 Power-of-Two JSQ 기법이 이질적 환경에서 가지는 한계를 규명한다.
• JSQ 라우팅 하에서 서버 점유도의 정적 분포를 특성화하고, 작업 크기 분포에 민감하지 않음을 입증한다.
• 정적 무작위 라우팅과 JSQ를 조합한 하이브리드 라우팅 기법을 제안하고 분석하여 최대 안정성을 회복하면서도 JSQ의 낮은 지연 이점을 유지한다.

제안 방법

• 서버 수가 증가함에 따라 시스템의 점근적 행동을 분석하기 위해 평균장 분석을 사용한다.
• 서버 상태가 한계에서 약간의 독립성을 가지며, 이를 위해 파급의 원리(점차적 독립성)를 적용한다.
• 서버 점유도 수준의 정적 확률에 대한 재귀적 방정식 시스템을 유도하고 해를 구한다.
• 생성 함수를 사용한 매개변수화된 평형 접근법을 통해 정적 분포의 존재성과 단조성 증명한다.
• 클래스 기반 정적 라우팅과 클래스 내 무작위 JSQ 샘플링을 조합한 하이브리드 기법을 도입하여 최대 안정성을 복원한다.
• 작업 크기 분포에 관계없이 동일한 평형으로 수렴함을 보여, 정적 분포가 작업 크기 분포에 민감하지 않음을 입증한다.

실험 결과

연구 질문

• RQ1 서버 속도가 다른 이질적 프로세서 공유 시스템에서 표준 Power-of-Two JSQ 기법이 최대 안정성을 유지하는가?
• RQ2 서버 이질성이 무작위 JSQ 기법의 안정성 영역에 어떤 영향을 미치는가?
• RQ3 JSQ 라우팅 하에서 대규모 이질적 시스템에서 서버 점유도의 정적 분포를 특성화할 수 있는가?
• RQ4 이질적 환경에서 시스템의 정적 분포가 작업 크기 분포에 민감한가?
• RQ5 최대 안정성 영역을 복원하면서도 JSQ의 지연 이점을 유지할 수 있는 하이브리드 라우팅 기법을 설계할 수 있는가?

주요 결과

• 서버 속도가 다른 이질적 시스템에서 표준 Power-of-Two JSQ 기법은 최대 안정성 영역보다 엄격히 작은 안정성 영역을 가지며, 평균 지연 측면에서 정적 무작위 라우팅에 의해 열등할 수 있다.
• JSQ 하에서 서버 점유도의 정적 분포는 서버 수가 무한히 증가할수록 동일한 경우와 유사하게 초지수적 尾尾 감소를 보인다.
• 정적 분포는 작업 크기 분포에 민감하지 않으며, 작업 크기가 지수분포, 초지수분포 또는 일반적인 단계형 분포일 경우에도 동일한 평형 행동이 관찰된다.
• 클래스 기반 정적 라우팅과 클래스 내 무작위 JSQ 샘플링을 조합한 하이브리드 라우팅 기법은 최대 안정성 영역을 확보하면서도 JSQ의 낮은 지연 이점을 유지한다.
• 제안된 하이브리드 기법은 이질적 시스템에서 순수 정적 라우팅과 순수 무작위 JSQ보다 평균 체류 시간 측면에서 엄격히 우수하다.
• 정확한 확률 수열의 재귀적 분석과 무한대에서의 수렴을 통해 평균장 한계에서 유일한 평형점 존재성을 증명하였다.