[論文レビュー] Low Latency Datacenter Networking: A Short Survey

Shuhao Liu, Hong Xu+1 more|arXiv (Cornell University)|Dec 12, 2013

Cloud Computing and Resource Management参考文献 14被引用数 25

ひとこと要約

本サーベイは、低レイテンシー・データセンターネットワーキングを低減する4つの主要技術を特定する：キュー長の短縮、再送信の高速化、マウスフローの優先化、マルチパスの活用。DCTCP、DeTail、RepFlowといった代表的なシステムを評価し、平均および99パーセンタイルのフローコンプリート時間に最大70％の改善を達成。特に高負荷下で顕著である。

ABSTRACT

Datacenters are the cornerstone of the big data infrastructure supporting numerous online services. The demand for interactivity, which significantly impacts user experience and provider revenue, is translated into stringent timing requirements for flows in datacenter networks. Thus low latency networking is becoming a major concern of both industry and academia. We provide a short survey of recent progress made by the networking community for low latency datacenter networks. We propose a taxonomy to categorize existing work based on four main techniques, reducing queue length, accelerating retransmissions, prioritizing mice flows, and exploiting multi-path. Then we review select papers, highlight the principal ideas, and discuss their pros and cons. We also present our perspectives of the research challenges and opportunities, hoping to aspire more future work in this space.

研究の動機と目的

• インタラクティブなアプリケーション、特に短時間でレイテンシーに敏感なマウスフローに特化した、データセンターネットワークにおける高レイテンシーの増加する課題に対処する。
• フローコンプリート時間（FCT）を短縮するための主要な研究的手法を特定・分類する。FCTはユーザーが感じるレイテンシーの主要因である。
• キュー長の短縮、再送信の高速化、マウスフローの優先化、マルチパスの活用という4つのコア戦略に基づいて、既存のソリューションを分類する。
• 混雑状態下で現在のTCPベースのコグネッション制御がマウスフローを適切に処理できない限界を強調し、プロトコルレベルのイノベーションの必要性を指摘する。
• 今後の低レイテンシー・データセンターネットワーキング分野におけるオープンな研究課題と機会についての洞察を提供する。

提案手法

• 4カテゴリーの分類法を提案：キュー長の短縮（例：DCTCP、HULL）、再送信の高速化（例：DIBS、FastLane）、マウスフローの優先化（例：pFabric、DeTail）、マルチパスの活用（例：RepFlow）。
• DCTCPがECNと動的ウィンドウスケーリングを用いてキュー占有を低減し、公平性を向上させる方法を分析する。
• DeTailのクロスレイヤー設計を説明し、PFCパージフレームを用いて混雑したパスを避ける、パケット単位の混雑に基づくルーティング意思決定を可能にする。
• RepFlowがマウスフローを複数のパスに複製することでパスの多様性を活用し、尾遅延を低減するメカニズムを説明する。スイッチやエンドホストのカーネルを変更しない。
• RepFlowがトランスポートプロトコルに依存せず、レガシータイプのTCPやDCTCPといった新しいプロトコルとも互換性があることを強調する。
• トレース駆動シミュレーションとキューイング理論を用いて、さまざまなネットワーク負荷とフローサイズにおける性能向上を検証する。

実験結果

リサーチクエスチョン

• RQ1 現在のデータセンターネットワーク設計は、特に短時間のマウスフローに対して、低レイテンシー要件を満たせないのはなぜか？
• RQ2 データセンターネットワークにおける高フローコンプリート時間（FCT）の主な原因は何であり、平均FCTと尾FCT（99パーセンタイル）の違いは何か？
• RQ3 キュー長の短縮、再送信の高速化、マウスフローの優先化、マルチパスの活用のうち、どれだけのFCT低減が実世界のデータセンターワークロードで達成可能か？
• RQ4 スイッチやエンドホストのソフトウェアを変更せずに、マルチパスの多様性を効果的に活用して尾遅延を低減できるか？
• RQ5 動的なデータセンターエンvironmentsにおいて、アプリケーションに予測可能で低レイテンシーなネットワーク抽象化を提供する上で、根本的な課題は何か？

主な発見

• 現在のデータセンターネットワークにおける平均フローコンプリート時間（FCT）は、理論的最小値の2倍～3倍であり、混雑状態下では尾FCT（99パーセンタイル）が平均の10倍以上に達する。
• スイッチにおけるキューイング遅延が高レイテンシーの主な原因であり、特に長時間のエレファントフローの後続で遅延が生じる短時間のマウスフローに顕著である。
• RepFlowは、マウスフローを複数のパスに複製することで、全テスト負荷において平均FCTおよび99パーセンタイルFCTを50％～70％低減する。
• DeTailは、PFCパージ信号を用いて混雑したパスを避けるパケット単位の混雑感知ルーティングを可能にすることで、尾FCTを低減する。
• DCTCP や PDQ といったプロトコルは、ECN およびキューのフィードバックに基づいて動的にコグネッション制御を調整することで、平均FCTを低減し、公平性と応答性を向上させる。
• 本サーベイでは、平均FCTおよび尾FCTに統計的保証を提供するネットワーク抽象化の実現が、予測不能な環境下でのアプリケーション設計を簡素化するために不可欠であると指摘する。