[論文レビュー] Codes Can Reduce Queueing Delay in Data Centers

Longbo Huang, Sameer Pawar+2 more|arXiv (Cornell University)|Feb 7, 2012

Advanced Data Storage Technologies参考文献 7被引用数 18

ひとこと要約

本稿では、データセンターストレージシステムにおけるデータ取得遅延を低減するために、新規のスケジューリングアルゴリズム「Blocking-one Scheduling（BoS）」と線形ネットワークコーディングを組み合わせた手法を提案する。複数のサーバーに分散された符号化データに対する柔軟で多重化されたアクセスを可能にすることで、リピケーション戦略と比較して平均リクエスト遅延を最大17％まで短縮し、スループット損失はわずかO(1/r²)にとどまる。これは、低冗長性因子でも顕著な性能向上を示している。

ABSTRACT

In this paper, we quantify how much codes can reduce the data retrieval latency in storage systems. By combining a simple linear code with a novel request scheduling algorithm, which we call Blocking-one Scheduling (BoS), we show analytically that it is possible to reduce data retrieval delay by up to 17% over currently popular replication-based strategies. Although in this work we focus on a simplified setting where the storage system stores a single content, the methodology developed can be applied to more general settings with multiple contents. The results also offer insightful guidance to the design of storage systems in data centers and content distribution networks.

研究の動機と目的

• データセンター・ストレージシステムにおける符号化とリピケーションの遅延低減可能性を定量化すること。
• 非i.i.d.なリクエスト依存関係を有する符号化システムにおけるキューイング遅延の分析という課題に取り組むこと。
• 符号化ストレージシステムの明確な解析的モデリングを可能にする実用的なスケジューリングアルゴリズムを設計すること。
• 符号化が人気データの競合を軽減するためにサーバー利用率のマルチプレクシングゲインを提供することを示すこと。
• データセンターおよびコンテンツ配信ネットワークにおける低遅延ストレージシステムの設計インサイトを提供すること。

提案手法

• ヘッド・オブ・ラインのリクエストが処理されるまで、以降のリクエストをブロッキングする新しいアルゴリズム「Blocking-one Scheduling（BoS）」を導入し、スケジューリング意思決定における依存性を排除する。
• キュー長とリクエストタイプ（パケットまたはグループ）を追跡する状態を有する連続時間マルコフ連鎖としてシステムをモデル化する。
• 平均遅延を計算するために、定常状態確率π_l、π_l^p、π_l^gの再帰的方程式を導出する。
• 現実的なデータセンタワークロードをモデル化するため、指数分布のサービス時間とポアソン分布のリクエスト到着を用いる。
• 異なるキュー状態間での状態確率の再帰的関係を導出するために、タイプ1およびタイプ2のカットを適用する。
• 導出された定常状態確率を用いて、パケットおよびリクエストの平均遅延を計算し、π_{2r}^p、π_{2r}^g、π_{2r+2m}^p、π_{2r+2m}^gの明示的表現を提供する。

実験結果

リサーチクエスチョン

• RQ1 低冗長性であっても、符号化はリピケーションと比較してデータセンターにおけるデータ取得遅延を低減できるか？
• RQ2 符号化ストレージシステムにおいて、遅延低減とスループット損失の根本的トレードオフは何か？
• RQ3 性能劣化を最小限に抑えるとともに、符号化システムの解析的モデリングを可能にするスケジューリングアルゴリズムはどのように設計できるか？
• RQ4 符号化によるマルチプレクシングゲインは、人気データオブジェクトの競合を軽減するためにどのように寄与するか？
• RQ5 提案されたBlocking-one Scheduling（BoS）アルゴリズムは、従来のリピケーションと比較して遅延およびスループットの点でどのように異なるか？

主な発見

• 提示された符号化システムにBoSを適用した場合、冗長性因子r=2の例において、リピケーションと比較して平均リクエスト遅延が少なくとも7％短縮される。
• 分析された設定において、符号化戦略はリピケーション戦略と比較して、平均データ取得遅延を最大17％まで低減する。
• BoSによるスループット損失はO(1/r²)であり、r=2の場合、最大スループットの96％を達成する。
• 解析により、符号化がマルチプレクシングゲインを提供することが示された。これは、4台のサーバーのうち任意の2台がファイルを提供可能であるのに対し、リピケーションでは各パケットが2台の固定サーバーに制限されることを意味する。
• BoSにおけるリクエストレベル遅延とパケットレベル遅延の期待差が解析的に導出され、その値が小さいことが示され、モデルの正確性が裏付けられた。
• 定常状態確率の再帰的方程式が導出されたことで、符号化システムにおける遅延性能の正確な計算が可能となり、リピケーションとの定量的比較が可能になった。