[论文解读] Heavy-traffic Delay Optimality in Pull-based Load Balancing Systems: Necessary and Sufficient Conditions

Xingyu Zhou, Jian Tan+1 more|arXiv (Cornell University)|Aug 21, 2018

Advanced Queuing Theory Analysis参考文献 13被引用 4

一句话总结

本文確立了在具有動態報告門檻的基於拉取的負載平衡系統中，重載下延遲最優性的必要與充分條件。論文證明，門檻必須隨平均任務數量對數增長才能實現最優性，從而解決了Kelly與Laws的猜想，同時表明如JIQ所採用的常數門檻在重載下嚴格次最優。

ABSTRACT

In this paper, we consider a load balancing system under a general pull-based policy. In particular, each arrival is randomly dispatched to one of the servers whose queue lengths are below a threshold, if there are any; otherwise, this arrival is randomly dispatched to one of the entire set of servers. We are interested in the fundamental relationship between the threshold and the delay performance of the system in heavy traffic. To this end, we first establish the following necessary condition to guarantee heavy-traffic delay optimality: the threshold will grow to infinity as the exogenous arrival rate approaches the boundary of the capacity region (i.e., the load intensity approaches one) but the growth rate should be slower than a polynomial function of the mean number of tasks in the system. As a special case of this result, we directly show that the delay performance of the popular pull-based policy Join-Idle-Queue (JIQ) lies strictly between that of any heavy-traffic delay optimal policy and that of random routing. We further show that a sufficient condition for heavy-traffic delay optimality is that the threshold grows logarithmically with the mean number of tasks in the system. This result directly resolves a generalized version of the conjecture by Kelly and Laws.

研究动机与目标

• 為了描述在重載下，基於拉取的負載平衡系統中報告門檻與延遲性能之間的本質關係。
• 為了確定實現重載延遲最優性所需的門檻增長速率條件。
• 為了建立基於拉取的策略在重載下實現穩態延遲最優性的充分條件。
• 為了解決Kelly與Laws關於延遲最優性門檻比例關係的推廣猜想。
• 為了精確描述在重載下JIQ（常數門檻）與最優策略之間的性能差距。

提出的方法

• 提出一種通用的基於拉取的負載平衡策略，其中到達的請求被路由至隊列長度低於動態門檻的伺服器；若不存在此類伺服器，則隨機路由。
• 使用李雅普諾夫函數方法分析系統穩定性與延遲性能，專注於投影狀態範數的漂移。
• 透過證明當負載接近容量時，門檻必須無限增長，但增長速率需慢於平均任務數量的任何多項式函數，從而推導出必要條件。
• 透過證明門檻相對於系統中平均任務數量的對數增長可確保重載延遲最優性，從而建立充分條件。
• 採用涉及隊列長度向量正交投影的漂移分析，並使用耦合論證來界定李雅普諾夫函數期望變化的邊界。
• 透過證明當系統狀態較大時，李雅普諾夫漂移條件成立且與重載參數ε無關，從而驗證該條件。

实验结果

研究问题

• RQ1 基於拉取的負載平衡策略要實現重載延遲最優性，報告門檻的增長速率應為何？
• RQ2 在重載下，Join-Idle-Queue (JIQ)策略的延遲性能與最優策略及隨機路由策略相比如何？
• RQ3 對數門檻增長速率是否足以在基於拉取的系統中實現穩態延遲最優性？
• RQ4 Kelly與Laws關於延遲最優性門檻比例關係的猜想能否被正式解決？
• RQ5 在重載下，JIQ與最優策略之間的性能差距的精確特徵為何？

主要发现

• 重載延遲最優性的必要條件是：當負載強度趨近於1時，報告門檻必須無限增長，但其增長速率需慢於系統中平均任務數量的任何多項式函數。
• JIQ策略（常數門檻r=1）的延遲性能在重載下嚴格介於任何重載延遲最優策略與隨機路由策略之間。
• 重載延遲最優性的充分條件是：門檻隨系統中平均任務數量對數增長。
• 本文解決了Kelly與Laws猜想的推廣版本，確認對數門檻增長可確保延遲最優性。
• 李雅普諾夫漂移分析確立了與重載參數ε無關的負漂移邊界，從而證明在充分條件下系統具有穩定性與延遲最優性。
• 結果表明，對數門檻增長速率不僅充分，且可能為必要，暗示對基於拉取的策略在重載下的特性具有緊緻的描述。