[論文レビュー] Economies-of-scale in resource sharing systems: tutorial and partial review of the QED heavy-traffic regime

Johan S. H. van Leeuwaarden, Britt W. J. Mathijsen+1 more|arXiv (Cornell University)|Jun 16, 2017

Advanced Queuing Theory Analysis参考文献 143被引用数 5

ひとこと要約

この論文は、多くのサーバーを備えたキューイングシステムにおける品質・効率ドリブン（QED）規制についてのチュートリアルおよび部分的レビューを提供する。主な焦点はリソースの共有によるスケーリングエコノミーにあり、$ s = \lambda + \beta\sqrt{\lambda} $ とサーバー数をスケーリングすることで、高い利用度と管理可能な遅延を両立できることを示している。また、重交通下での拡散極限への収束が成立する。

ABSTRACT

Multi-server queueing systems describe situations in which users require service from multiple parallel servers. Examples include check-in lines at airports, waiting rooms in hospitals, queues in contact centers, data buffers in wireless networks, and delayed service in cloud data centers. These are all situations with jobs (clients, patients, tasks) and servers (agents, beds, processors) that have large capacity levels, ranging from the order of tens (checkouts) to thousands (processors). This survey investigates how to design such systems to exploit resource pooling and economies-of-scale. In particular, we review the mathematics behind the Quality-and-Efficiency Driven (QED) regime, which lets the system operate close to full utilization, while the number of servers grows simultaneously large and delays remain manageable. Aimed at a broad audience, we describe in detail the mathematical concepts for the basic Markovian many-server system, and only provide sketches or references for more advanced settings related to e.g. load balancing, overdispersion, parameter uncertainty, general service requirements and queueing networks. While serving as a partial survey of a massive body of work, the tutorial is not aimed to be exhaustive.

研究の動機と目的

• 大規模なマルチサーバーシステムにおけるQED規制の数学的基盤を説明すること。
• リソースの共有とスケーリングエコノミーが遅延を低減し、システム効率を向上させる仕組みを示すこと。
• 重交通設定下で利用度と遅延性能のバランスを取るための次元決めルールをレビューすること。
• 一般のサービス時間および到着時間分布へのQEDフレームワークの拡張を検討すること。
• ロードバランシング、通信オーバーヘッド、不確実性下でのロバストネスといった未解決問題を強調すること。

提案手法

• QED規制を達成するために、$ \beta > 0 $ を満たす $ s = \lambda + \beta\sqrt{\lambda} $ という平方根則を用いた $ M/M/s $ キューの分析。
• 重交通下での拡散極限を用いて、$ s, \lambda \to \infty $ かつ $ \beta $ を固定したときのシステム行動を特徴づける。
• 確率過程の極限および経験過程理論を適用し、スケーリングされたキュー長過程の収束を導出する。
• 一般のサービス時間分布を扱うために、測度値過程および外部測度を用いて $ G/G/s $ キューへの結果の拡張。
• 有限モーメントおよび尾部挙動の役割を検討し、無限分散を伴う場合も含む。
• 拡散レベルの最適性や、$ (2+\varepsilon) $-モーメント仮定下での遅延尾部バウンドといった構造的性質をレビュー。

実験結果

リサーチクエスチョン

• RQ1 リソースの共有を活用した多数のサーバーシステムでは、どのようにして高い利用度を維持しながら遅延を低く抑えることができるか？
• RQ2 提示された負荷と望ましい性能に応じて、サーバー数を最適にスケーリングする規則は何か？
• RQ3 一般の到着時間およびサービス時間分布は、QED極限およびシステム性能にどのように影響を与えるか？
• RQ4 指数分布でないサービス時間におけるQED規制の収束速度および最適性ギャップは何か？
• RQ5 離脱、有限バッファ、戦略的行動を伴うシステムへのQED結果の拡張における主な課題は何か？

主な発見

• 平方根則 $ s = \lambda + \beta\sqrt{\lambda} $ により、大規模システムにおいて高い利用度と低い遅延を両立できるQED規制が達成可能である。
• この規則のもとで、スケーリングされたキュー長過程は拡散極限に収束し、一般の $ G/G/s $ キューでは定常分布がプロセスの履歴に依存する。
• $ (2+\varepsilon) $-モーメントサービス時間を持つ $ G/G/s $ キューでは、指数分布の場合に拡張された明示的な遅延尾部バウンドが導出された。
• 一般のサービス時間における極限過程は、$ M/M/s $ の状態依存型のドリフトとは異なり、パス依存型のドリフトを有する1次元の拡散過程である。
• JSQなどのロードバランシングポリシーにおいて、通信オーバーヘッドを $ O(\sqrt{s}\log s) $ にまで低減しつつ、拡散レベルの最適性を維持できる。
• $ \alpha \in (1,2) $ の指数を有する重尾型の到着時間を持つ $ G/M/s $ キューでは、最適スケーリングが $ s_\lambda = \lambda + \beta\lambda^{(\alpha-1)^{-1}} $ に変化し、標準的な平方根則とは異なる。