[論文レビュー] RepNet: Cutting Tail Latency in Data Center Networks with Flow Replication

Shuhao Liu, Wei Bai+3 more|arXiv (Cornell University)|Jul 4, 2014

Cloud Computing and Resource Management参考文献 26被引用数 5

ひとこと要約

RepNet は、経路の多様性を活用して複数の経路にわたってマウスフローを複製することで、データセンターネットワークにおける尾遅延を低減するアプリケーション層トランスポートプロトコルである。2つのメカニズム—RepSYN（SYNパケットのみを複製）およびRepFlow（フルフロー複製）—を用い、特に高負荷下で尾遅延とアプリケーション完了時間が50％以上短縮され、既存のインfra構造（例：node.js）への導入コストは最小限に抑えられる。

ABSTRACT

Data center networks need to provide low latency, especially at the tail, as demanded by many interactive applications. To improve tail latency, existing approaches require modifications to switch hardware and/or end-host operating systems, making them difficult to be deployed. We present the design, implementation, and evaluation of RepNet, an application layer transport that can be deployed today. RepNet exploits the fact that only a few paths among many are congested at any moment in the network, and applies simple flow replication to mice flows to opportunistically use the less congested path. RepNet has two designs for flow replication: (1) RepSYN, which only replicates SYN packets and uses the first connection that finishes TCP handshaking for data transmission, and (2) RepFlow which replicates the entire mice flow. We implement RepNet on { t node.js}, one of the most commonly used platforms for networked interactive applications. { t node}'s single threaded event-loop and non-blocking I/O make flow replication highly efficient. Performance evaluation on a real network testbed and in Mininet reveals that RepNet is able to reduce the tail latency of mice flows, as well as application completion times, by more than 50\%.

研究の動機と目的

• 短時間でインタラクティブなマウスフローに特化した、データセンターネットワークにおける高い尾遅延という継続的な問題に対処すること。
• スイッチやエンドホストのオペレーティングシステムの変更を必要としない、実装可能なアプリケーション層のソリューションを設計すること。
• 複数のネットワーク経路にわたってフローを複製することで、経路の多様性を活用し、混雑を回避すること。
• RepSYN などの軽量な複製技術により、特にインシット状況下でのパフォーマンスオーバーヘッドを最小限に抑えること。
• 実際のデータセンタ環境およびエミュレーテッド環境でフロー複製の有効性を評価し、インfra構造の刷新なしに低遅延を達成できることを示すこと。

提案手法

• RepNet は、同じマウスフローを複数の経路に同時に送信することで、少なくとも1つの経路が混雑していない確率を高める。
• RepSYN は、接続確立のための SYN パケットのみを複製し、最初に完了したハンドシェイクを選択してデータ送信を開始することで、オーバーヘッドを低減する。
• RepFlow は、フローのすべてのパケットを2つのTCP接続に複製する。これにより遅延耐性が向上するが、帯域幅使用量が増加する。
• プロトコルは node.js 上のトランスポートモジュールとして実装されており、単一スレッドのイベントループと非同期I/Oを活用して効率的なフロー処理を実現している。
• RepNet は DCTCP や pFabric といった既存のコグネッション制御方式と直交しており、共存可能で、追加的なパフォーマンス向上を実現できる。
• パフォーマンス評価は、実際のリーフ・スパインテストベッドおよび Mininet を用いたエミュレーション環境で実施され、生産環境のネットワークから得られた実際のフローサイズ分布を反映している。

実験結果

リサーチクエスチョン

• RQ1 アプリケーション層でのフローファイル複製は、ハードウェアやOSレベルの変更なしに、データセンターネットワークにおける尾遅延を顕著に低減できるか？
• RQ2 SYNパケットのみを複製する RepSYN と、フルフロー複製（RepFlow）とを比較した場合、遅延低減効果とインシット状況下でのパフォーマンスにどのような差が生じるか？
• RQ3 インタラクティブワークロード（例：バケットソート）におけるアプリケーションレベルの完了時間に、フロー複製はどの程度向上効果をもたらすか？
• RQ4 なぜ RepNet は低負荷下で限定的な利点しか示さないのか？また、Mininet のコントローラーのオーバーヘッドは評価結果にどのように影響するか？
• RQ5 エミュレーション環境におけるコントローラー由来の遅延が存在する中でも、フロー複製による経路の多様性は測定可能な遅延低減をもたらすか？

主な発見

• 実際のテストベッドおよび Mininet 評価の両方で、高負荷下においてマウスフローの尾遅延（99百分位数）が50％以上削減された。
• 高負荷下では、SYNパケットのRTT推定が複数経路で安定しているため、RepSYN は RepFlow と同等またはそれ以上の尾遅延低減効果を示した。
• インシット状況では、過剰なパケット複製によるパフォーマンス劣化を回避できるため、RepSYN は RepFlow を上回る性能を示した。
• バケットソートワークロードにおけるアプリケーションレベルの完了時間は、RepFlow もしくは RepSYN を使用することで約50％短縮された。
• 低負荷下では、RepNet は最小限または効果を示さないが、主に Mininet のコントローラー由来の遅延が要因であり、これは現実の環境とは異なる。
• node.js 上での実装により、最小限のコード変更で即座に導入可能であり、既存のインタラクティブアプリケーションに対しても実用的である。