[論文レビュー] Non-Asymptotic Delay Bounds for (k,l) Fork-Join Systems and Multi-Stage Fork-Join Networks

Markus Fidler, Yuming Jiang|arXiv (Cornell University)|Dec 28, 2015

Interconnection Networks and Systems参考文献 31被引用数 3

ひとこと要約

本稿は、max-plusシステム理論を用いて、(k,l)フォーク・ジョインシステムおよびマルチステージフォーク・ジョインネットワークの非漸近的遅延バウンドを導出し、待ち時間および滞在時間の統計的バウンドを可能にする。hステージネットワークにおけるエンドツーエンド遅延スケーリングがO(h ln(hk))であることを確立し、l-out-of-k再冗長性が、特に高利用度およびランダムなスプライシング条件下でロードバランシングを上回ることを示している。

ABSTRACT

Parallel systems have received increasing attention with numerous recent applications such as fork-join systems, load-balancing, and l-out-of-k redundancy. Common to these systems is a join or resequencing stage, where tasks that have finished service may have to wait for the completion of other tasks so that they leave the system in a predefined order. These synchronization constraints make the analysis of parallel systems challenging and few explicit results are known. In this work, we model parallel systems using a max-plus approach that enables us to derive statistical bounds of waiting and sojourn times. Taking advantage of max-plus system theory, we also show end-to-end delay bounds for multi-stage fork-join networks. We contribute solutions for basic G|G|1 fork-join systems, parallel systems with load-balancing, as well as general (k,l) fork-join systems with redundancy. Our results provide insights into the respective advantages of l-out-of-k redundancy vs. load-balancing.

研究の動機と目的

• 並列システムにおける同期制約の分析という課題に取り組む。ここでは、タスクが他のタスクの完了を待たなければならない。
• 一般の到着およびサービスプロセスを伴うフォーク・ジョインシステムにおける待ち時間および滞在時間の明示的で非漸近的な統計的バウンドを導出する。
• 再冗長性を有するマルチステージフォーク・ジョインネットワークおよび(k,l)フォーク・ジョインシステムへの分析を拡張し、エンドツーエンド遅延保証を提供する。
• さまざまなシステム条件下での遅延スケーリングおよび信頼性の観点から、l-out-of-k再冗長性とロードバランシングの性能を比較する。
• 一般の非i.i.d.サービスおよび到着プロセスを扱うためのmax-plusシステム理論およびエンvelopeベース手法を用いた理論的基盤を提供する。

提案手法

• max-plus代数を用いてフォーク・ジョインシステムをモデル化し、同期制約を表現するとともに、滞在時間および待ち時間のバウンドを導出する。
• (σ, ρ)-サービスおよび到着エンベロープ制約を適用し、モーメント生成関数を用いてワークロードおよび遅延の確率的バウンドを特徴付ける。
• チェルノフバウンドおよびマルティンググールの不等式を用いて、遅延の尾確率バウンドを導出し、到着時間およびサービス時間の統計的独立性を活用する。
• 到着プロセスのスプライシング（決定的 vs. ランダム）および非均一サーバーを扱うフレームワークを拡張し、マルチパスルーティングなどの応用をモデル化する。
• l番目の順序統計を用いて、k個のタスクのうちl個が完了すればジョブが完了する(k,l)フォーク・ジョインシステムをモデル化する。
• 個々のステージバウンドを合成することでマルチステージネットワークのエンドツーエンド遅延バウンドを導出し、hステージおよびk個の並列サーバーに対してO(h ln(hk))のスケーリングを示す。

実験結果

リサーチクエスチョン

• RQ1 再冗長サーバーを有する(k,l)フォーク・ジョインシステムにおける遅延バウンドは、従来のフォーク・ジョインまたはロードバランシングシステムと比較してどのようにスケーリングするか？
• RQ2 マルチパスルーティングおよびフォーク・ジョインネットワークにおける遅延性能に、決定的スプライシングとランダムスプライシングの影響は何か？
• RQ3 hステージおよび各ステージにk個の並列サーバーを有するマルチステージフォーク・ジョインネットワークにおけるエンドツーエンド遅延バウンドは、どのようにスケーリングするか？
• RQ4 どのような状況下でl-out-of-k再冗長性が遅延および安定性の観点でロードバランシングを上回るか？
• RQ5 max-plusシステム理論を用いて、一般のG|G|1およびGI|GI|1フォーク・ジョインシステムに対して非漸近的統計的遅延バウンドを導出可能か？

主な発見

• 本稿は、モーメント生成関数およびチェルノフバウンドを用いて、G|G|1およびGI|GI|1フォーク・ジョインシステムの非漸近的遅延バウンドを確立し、k個の並列サーバーに対してバウンドがO(ln k)にスケーリングすることを示している。
• hステージを有するマルチステージフォーク・ジョインネットワークでは、エンドツーエンド遅延バウンドがO(h ln(hk))にスケーリングし、各ステージの並列タスク数に対して対数的依存性を示している。
• l-out-of-k再冗長性は、特にサービス時間が非i.i.d.である場合、高利用度状況でロードバランシングを著しく上回る。これは再順序付け遅延が低減されるためである。
• 決定的スプライシングは、エンベロープベース分析により、ランダムスプライシングよりも優れた遅延性能を示していることが判明した。
• フレームワークは非均一サーバーおよび一般の到着プロセスをサポートし、マルチパスルーティングおよび分散ストレージシステムへの応用を可能にする。
• 分析により、すべてのタスクが同時に開始するスプリット・マージシステムはフォーク・ジョインシステムよりも不安定であることが確認され、安定性領域はln kに従って減少するが、フォーク・ジョインシステムはより優れたスケーラビリティを維持する。