[論文レビュー] Heavy-traffic Delay Optimality in Pull-based Load Balancing Systems: Necessary and Sufficient Conditions

Xingyu Zhou, Jian Tan+1 more|arXiv (Cornell University)|Aug 21, 2018

Advanced Queuing Theory Analysis参考文献 13被引用数 4

ひとこと要約

本稿は、動的報告閾値を有するプルベースの負荷分散システムにおける重交通下での遅延最適性の必要十分条件を確立する。著者らは、最適性を達成するためには閾値がタスクの平均数に対して対数的に増加しなければならないことを証明し、KellyとLawsによる予想を解消する。一方で、JIQの如く定数閾値を用いる手法は重交通下で厳密に劣っていることを示している。

ABSTRACT

In this paper, we consider a load balancing system under a general pull-based policy. In particular, each arrival is randomly dispatched to one of the servers whose queue lengths are below a threshold, if there are any; otherwise, this arrival is randomly dispatched to one of the entire set of servers. We are interested in the fundamental relationship between the threshold and the delay performance of the system in heavy traffic. To this end, we first establish the following necessary condition to guarantee heavy-traffic delay optimality: the threshold will grow to infinity as the exogenous arrival rate approaches the boundary of the capacity region (i.e., the load intensity approaches one) but the growth rate should be slower than a polynomial function of the mean number of tasks in the system. As a special case of this result, we directly show that the delay performance of the popular pull-based policy Join-Idle-Queue (JIQ) lies strictly between that of any heavy-traffic delay optimal policy and that of random routing. We further show that a sufficient condition for heavy-traffic delay optimality is that the threshold grows logarithmically with the mean number of tasks in the system. This result directly resolves a generalized version of the conjecture by Kelly and Laws.

研究の動機と目的

• 重交通下におけるプルベースの負荷分散システムにおいて、報告閾値と遅延性能の根本的関係を特定すること。
• 重交通下での遅延最適性を達成するための閾値増加率に関する必要条件を同定すること。
• プルベースのポリシーが重交通下で定常状態の遅延最適性を達成するための十分条件を確立すること。
• KellyとLawsによる閾値スケーリングに関する遅延最適性に関する一般化された予想を解消すること。
• 重交通下におけるJIQ（定数閾値）と最適ポリシーとの間の性能ギャップを明確に特定すること。

提案手法

• 到着タスクが、動的閾値未満のキュー長を持つサーバーにルーティングされる一般化されたプルベースの負荷分散ポリシーを提案する。そのようなサーバーが存在しない場合はランダムにルーティングされる。
• システムの安定性と遅延性能を分析するため、射影された状態ノルムのドリフトに注目したリャプノフ関数アプローチを用いる。
• 必要条件を導出するため、負荷が容量に近づくにつれて閾値が無限大に発散する必要があることを示し、かつその増加速度がタスクの平均数に関して任意の多項式関数より遅いこと（多項式より遅い）を示す。
• 十分条件を確立するため、タスクの平均数に関して閾値が対数的に増加することにより、重交通下での遅延最適性が保証されることを証明する。
• キュー長ベクトルの直交射影を含むドリフト解析を用い、期待値変化の上界を求めるためにカップリング論法を用いる。
• 重交通パrameter εに依存しない、大きなシステム状態において負のドリフトが得られることを示すことにより、リャプノフドリフト条件を検証する。

実験結果

リサーチクエスチョン

• RQ1 プルベースの負荷分散ポリシーが重交通下での遅延最適性を達成するためには、報告閾値のどの程度の増加率が必要か？
• RQ2 重交通下におけるJoin-Idle-Queue（JIQ）ポリシーの遅延性能は、最適ポリシーおよびランダムルーティングポリシーと比較してどのように異なるか？
• RQ3 タスクの平均数に関して対数的に増加する閾値の増加率は、プルベースシステムにおける定常状態の遅延最適性を達成するのに十分か？
• RQ4 KellyとLawsによる遅延最適性のための閾値スケーリングに関する予想を形式的に解消できるか？
• RQ5 重交通下におけるJIQと最適ポリシーとの間の性能ギャップの正確な特徴づけは何か？

主な発見

• 重交通下での遅延最適性のための必要条件として、負荷強度が1に近づくにつれて報告閾値が無限大に発散する必要があるが、その増加速度はシステム内タスクの平均数に関して任意の多項式関数より遅いこと（多項式より遅い）である。
• JIQポリシー（定数閾値 r=1）の遅延性能は、重交通下で任意の重交通下での遅延最適ポリシーとランダムルーティングポリシーの間で厳密に中間的である。
• 重交通下での遅延最適性のための十分条件として、タスクの平均数に関して閾値が対数的に増加することを示す。
• 本稿はKellyとLawsによる予想の一般化されたバージョンを解消し、対数的閾値増加が遅延最適性を保証することを確認する。
• リャプノフドリフト解析により、重交通パrameter εに依存しない負のドリフトバウンドが得られ、十分条件のもとで安定性と遅延最適性が保証される。
• 結果から、対数的閾値増加率は遅延最適性にとって十分であり、おそらく必要であることも示唆され、プルベースポリシーの重交通下におけるタイトな特徴づけが得られる。