[論文レビュー] MDS coding is better than replication for job completion times

Ken R. Duffy, Seva Shneer|arXiv (Cornell University)|Jul 25, 2019

Cooperative Communication and Network Coding参考文献 31被引用数 5

ひとこと要約

この論文は、キュー状態がディスpatcherにアクセスできないマルチサーバーシステムにおいて、最大距離可分（MDS）符号化がレプリケーションを上回ることを示している。n個のジョブをn+m個の線形結合に符号化し、ランダムに選ばれたサーバーに送信することで、n+m個の符号化ジョブのうち任意のn個が完了すればバッチ処理が完了する。これにより、mに比例する線形スケーリングが実現され、レプリケーションのdコピーに依存する乗算的コストとは異なり、特に遅延が著しい環境において顕著に高速かつ信頼性の高い性能が得られる。

ABSTRACT

In a multi-server system, how can one get better performance than random assignment of jobs to servers if queue-states cannot be queried by the dispatcher? A replication strategy has recently been proposed where $d$ copies of each arriving job are sent to servers chosen at random. The job's completion time is the first time that the service of any of its copies is complete. On completion, redundant copies of the job are removed from other queues so as not to overburden the system. For digital jobs, where the objects to be served can be algebraically manipulated, and for servers whose output is a linear function of their input, here we consider an alternate strategy: Maximum Distance Separable (MDS) codes. For every batch of $n$ digital jobs that arrive, $n+m$ linear combinations are created over the reals or a large finite field, and each coded job is sent to a random server. The batch completion time is the first time that any $n$ of the $n+m$ coded jobs are served, as the evaluation of $n$ original jobs can be recovered by Gaussian elimination. If redundant jobs can be removed from queues on batch completion, we establish that in order to get the improved response-time performance of sending $d$ copies of each of $n$ jobs via the replication strategy, with the MDS methodology it suffices to send $n+d$ jobs. That is, while replication is multiplicative, MDS is linear.

研究の動機と目的

• ディスpatchャがキュー状態にアクセスできないマルチサーバーシステムにおけるジョブ完了時間を最小化する課題に対処すること。
• このような制約下で、d個のコピーを送信するレプリケーションと、ジョブをn+m個の線形結合に符号化するMDS符号化の性能を比較すること。
• 特に尾遅延の低減とストラグル問題の緩和において、MDS符号化が優れた応答時間性能を示すことを確立すること。
• 大前提mに対して、MDS符号化がレプリケーションの完了時間分布を確率的に上回ることを形式的に分析・証明すること。

提案手法

• システムは、実数または大きな有限体上でn個の元のジョブをn+m個のランダムな線形結合に符号化し、それぞれの符号化ジョブをランダムに選ばれたサーバーに配布する。
• バッチ完了時間は、n+m個の符号化ジョブのうち任意のn個が完了する最初の時刻として定義され、ガウスの消去法により元のn個のジョブを復元可能である。
• ジョブの滞在時間は、分布F_W(t)に従う独立同分布の確率変数としてモデル化され、i.i.d. 確率変数の順序統計量を用いて完了時間分布の尾挙動が導出される。
• 論文は既知の順序統計量の結果を用い、ワークロードと指数分布サービス時間を組み込んだ非冗長応答時間の尾生存関数に対する微分方程式を導出する。
• m ≥ 4のとき、MDSの完了時間分布は、尾部だけでなくすべての時刻において、レプリケーションの分布を確率的に支配することを証明する。
• 証明は生存関数の漸近的解析に依拠し、尾部における指数的減衰を示し、十分に大きなmに対してMDS応答時間がレプリケーションよりも確率的に小さいことを確立する。

実験結果

リサーチクエスチョン

• RQ1 キュー状態が不明な状況下で、MDS符号化はレプリケーションよりも優れたジョブ完了時間性能を提供するか？
• RQ2 MDS符号化の性能は、冗長な符号化ジョブ数mの増加に対してどのようにスケーリングされるか？これに対して、レプリケーションはコピー数dに依存する。
• RQ3 MDS符号化は、どの時点で完了時間分布においてレプリケーションを確率的に支配し始めるか？
• RQ4 MDS符号化は、分散コンピューティングシステムにおいてストラグル問題をレプリケーションよりも効果的に軽減できるか？
• RQ5 MDS符号化とレプリケーションにおける完了時間の尾挙動の数学的関係は何か？

主な発見

• MDS符号化は、冗長ジョブ数に応じて指数関数的に改善されるバッチ完了時間分布の尾部を短縮することで、レプリケーションを上回る性能を達成する。
• m ≥ 4のとき、MDSバッチ完了時間分布は、尾部だけでなくすべての時刻において、レプリケーションの分布を確率的に小さくする。
• 性能向上はmに比例する：d個のレプリケートコピーの応答時間を達成するには、MDSではn + d個の符号化ジョブで十分であり、レプリケーションの乗算的スケーリングに比べてより効率的である。
• MDSの完了時間は、n+m個のi.i.d. 滯在時間のn番目の順序統計量に支配され、これによりレプリケーションにおけるd個のi.i.d. 時間の最小値と比較して尾部の減衰が速くなる。
• 解析により、MDS応答時間の生存関数は指数関数的に減衰し、そのレートは冗長ジョブ数に依存する。また、大前提mに対して、この減衰はレプリケーションのそれよりも速いことが示された。
• 論文は、MDS符号化が尾部での優位性を超えて、m ≥ 4のとき、すべての分布においてレプリケーションを支配することを確立し、あらゆるパフォーマンス領域でその優位性を確認した。