[論文レビュー] Flexible Queueing Architectures

John N. Tsitsiklis, Kuang Xu|arXiv (Cornell University)|May 28, 2015

Interconnection Networks and Systems参考文献 21被引用数 5

ひとこと要約

本稿では、限定的なサーバーの柔軟性（dₙ ≪ n）のもとでも、大きな容量領域と漸近的に消えるようなキューイング遅延を達成する、拡張グラフに基づく柔軟なキューイングアーキテクチャを提案する。拡張グラフ上で仮想キューに基づくスケジューリング方針を用いることで、dₙ ≫ ln n の条件下で、最適な容量領域の定数倍近似の範囲内にあるすべての到着レートに対して、システムは安定性と低遅延を維持する。

ABSTRACT

We study a multi-server model with $n$ flexible servers and $n$ queues, connected through a bipartite graph, where the level of flexibility is captured by the graph's average degree, $d_n$. Applications in content replication in data centers, skill-based routing in call centers, and flexible supply chains are among our main motivations. We focus on the scaling regime where the system size $n$ tends to infinity, while the overall traffic intensity stays fixed. We show that a large capacity region and an asymptotically vanishing queueing delay are simultaneously achievable even under limited flexibility ($d_n \ll n$). Our main results demonstrate that, when $d_n\gg \ln n$, a family of expander-graph-based flexibility architectures has a capacity region that is within a constant factor of the maximum possible, while simultaneously ensuring a diminishing queueing delay for all arrival rate vectors in the capacity region. Our analysis is centered around a new class of virtual-queue-based scheduling policies that rely on dynamically constructed job-to-server assignments on the connectivity graph. For comparison, we also analyze a natural family of modular architectures, which is simpler but has provably weaker performance.

研究の動機と目的

• マルチサーバーのキューイングシステムにおいて、柔軟性が制限されている状況でも、大きな容量領域と漸近的に消えるキューイング遅延を同時に達成できるかどうかを調査すること。
• 各サーバーがキューの小さな部分集合にのみ接続されている場合（dₙ ≪ n）でも、近似的に最適な性能を達成するアーキテクチャとスケジューリング方針を設計すること。
• さまざまな到着レートベクトルに対して、拡張グラフベースのアーキテクチャと単純なモジュラー設計との安定性と遅延の性能を比較すること。
• システムサイズ n → ∞ の漸近的状況において、柔軟なキューイングネットワークの遅延と容量領域に関する理論的保証を確立すること。

提案手法

• 著者たちは、n台のサーバーとn個のキューを接続する二部グラフとしてシステムをモデル化し、柔軟性は平均次数 dₙ で定義する。
• リアルタイムのキュー長と接続性に基づいてジョブを動的にサーバーに割り当てる、仮想キューに基づくスケジューリング方針を導入する。
• 解析には、性能保証に不可欠な強力な接続性と均一な拡張性を備えた、拡張グラフを用いる。
• 確率的カップリングとリャプノフドリフトの議論を用いてキューイング遅延の上限を導出し、E[W] = O(ln n / dₙ) を示す。
• フロイドおよび拡散極限を用いて容量領域を分析し、拡張グラフアーキテクチャが最大可能容量領域の定数倍の領域を達成することを示す。
• グリーディーヒューリスティックを用いたモジュラー設計との比較を行い、実装が単純であるものの、理論的保証が弱いことが示される。

実験結果

リサーチクエスチョン

• RQ1 柔軟性が制限されている場合（dₙ ≪ n）に、大きな容量領域と漸近的に消えるキューイング遅延を同時に達成できるか？
• RQ2 容量領域と遅延の観点で、近似的に最適な性能を達成するために必要な最小平均次数 dₙ は何か？
• RQ3 同じ柔軟性制約のもとで、拡張グラフベースのアーキテクチャとモジュラーアーキテクチャの性能はどのように比較できるか？
• RQ4 グリーディースケジューリングのような単純な方針は、遅延と安定性に関する類似の理論的保証を達成できるか？
• RQ5 柔軟なキューイングシステムにおいて、アーキテクチャの複雑さと性能の間の根本的トレードオフは何か？

主な発見

• dₙ ≫ ln n のとき、拡張グラフベースのアーキテクチャは最大可能容量領域の定数倍の容量領域を達成する。
• すべての安定な到着レートベクトルに対して、期待キューイング遅延は O(ln n / dₙ) であり、dₙ ≫ ln n の条件下で n → ∞ のとき消える。
• 仮想キューに基づくスケジューリング方針は、限定的な柔軟性のもとでも、容量領域内のすべての到着レートベクトルに対して安定性と低遅延を保証する。
• それに対して、モジュラーアーキテクチャは実装が単純であるが、接続性が悪いために、max λᵢ が定数であっても多くの到着レートベクトルを安定化させない。
• シミュレーションでは、遅延がジョブサイズの分布に相対的に敏感ではなく、分散が大きい対数正規分布のサービス時間に対しても低遅延を維持する。
• 結果から、dₙ ≪ n の制限のもとで、容量と遅延のバランスを最適化する点で、拡張グラフベースの設計は漸近的に最適であると考えられる。