[論文レビュー] Micro-burst in Data Centers: Observations, Implications, and Applications

Danfeng Shan, Fengyuan Ren+2 more|arXiv (Cornell University)|Apr 26, 2016

Cloud Computing and Resource Management被引用数 10

ひとこと要約

本稿では、データセンタで発生するマイクロバーストを検出・抑制するためのECNマーキングポリシーS-ECNを提案する。S-ECNは、キュー長の増加傾きを用いてマイクロバーストを検出することで、早期の混雑シグナルを発信し、キュー長のスパイクを50%以上低減するとともに、99パーセンタイルのクエリ完了時間を約20%短縮する。DCTCP や ECN* といった既存プロトコルを凌駆する性能を示す。

ABSTRACT

Micro-burst traffic is not uncommon in data centers. It can cause packet dropping, which results in serious performance degradation (e.g., Incast problem). However, current solutions that attempt to suppress micro-burst traffic are extrinsic and ad hoc, since they lack the comprehensive and essential understanding of micro-burst's root cause and dynamic behavior. On the other hand, traditional studies focus on traffic burstiness in a single flow, while in data centers micro-burst traffic could occur with highly fan-in communication pattern, and its dynamic behavior is still unclear. To this end, in this paper we re-examine the micro-burst traffic in typical data center scenarios. We find that evolution of micro-burst is determined by both TCP's self-clocking mechanism and bottleneck link. Besides, dynamic behaviors of micro-burst under various scenarios can all be described by the slope of queue length increasing. Our observations also implicate that conventional solutions like absorbing and pacing are ineffective to mitigate micro-burst traffic. Instead, senders need to slow down as soon as possible. Inspired by the findings and insights from experimental observations, we propose S-ECN policy, which is an ECN marking policy leveraging the slope of queue length increasing. Transport protocols utilizing S-ECN policy can suppress the sharp queue length increment by over 50%, and reduce the 99th percentile of query completion time by ~20%.

研究の動機と目的

• データセンタネットワークにおけるマイクロバーストの根本的要因と動的挙動を理解すること。これは、従来のインターネットトラフィックパターンとは異なる。
• パーソナライズド・パーセンテージやバッファ吸収といった従来のマイクロバースト緩和技術が、データセンタ環境ではなぜ効果を発揮しないのかを特定すること。
• バッファオーバーフローが発生する前に、早期の混雑検出とレートスロットリングを可能にするトランスポートプロトコルポリシーを開発すること。
• 高スループットで短時間のフローが多数存在するワークロードにおける、能動的混雑制御を実現するECNベースのマーキングポリシーを設計・評価すること。

提案手法

• 著者らは、異なるフローパattersとネットワーク状態を制御した実験を用いて、実際のデータセンタワークロードにおけるキュー長の変化を細かくモニタリングする。
• マイクロバーストダイナミクスの主要な指標としてキュー長増加の傾きを分析し、多様なシナリオにおいて一貫したマイクロバースト挙動の記述が可能であることを確認した。
• この知見に基づき、キュー長の傾きがしきい値を超えた際に混雑通知を発信することで、送信元のレートを早期に低減するS-ECNというECNマーキングポリシーを設計した。
• S-ECNは、一時的な変動に過敏に反応するのを防ぎつつ、適切なタイミングでの応答を保証するため、瞬時のキュー長傾きに基づく確率的マーキングを採用している。
• S-ECNは、ウェブ検索や小規模フローワークロードを含むリアルなワークロード環境で評価され、ECN*、DCTCP、SL-ECN と比較された。
• 性能は、特に99パーセンタイルのクエリ完了時間、キュー長ダイナミクス、およびさまざまなフローサイズにおけるフローコンプリートタイムを指標として測定された。

実験結果

リサーチクエスチョン

• RQ1 高ファンイン、短時間のフローが特徴のデータセンタネットワークにおいて、マイクロバースト進化の根本的要因は何か？
• RQ2 同期的および非同期的フローアグリゲーションを含む、さまざまなトラフィックパターンにおいて、マイクロバーストの動的挙動はどのように変化するか？
• RQ3 なぜパーソナライズド・パーセンテージやバッファ吸収といった従来のマイクロバースト緩和技術が、データセンタ環境では効果を発揮しないのか？
• RQ4 キュー長増加の傾きは、多様なネットワークシナリオにおいてマイクロバーストの深刻度を普遍的に予測できるか？
• RQ5 キュー長の傾きに基づく混雑シグナルポリシーは、遅延に敏感なワークロードにおいてエンドツーエンドのパフォーマンスをどの程度向上できるか？

主な発見

• TCPのセルフクロックメカニズムとボトルネックリンクが、データセンタネットワークにおけるマイクロバースト進化を決定づけている。
• キュー長増加の傾きは、フローの種別やバックグラウンドトラフィックにかかわらず、すべてのテストシナリオにおいてマイクロバーストダイナミクスを正確に記述する普遍的指標である。
• バッファ吸収やパケットペーシングといった従来の解決策は、応答遅延と早期キューの蓄積を防げないため、データセンタにおけるマイクロバースト緩和に効果を発揮しない。
• S-ECNは、主流のトランスポートプロ rotocols よりもピークキュー長増分を50%以上低減し、マイクロバーストを顕著に抑制した。
• S-ECNはDCTCPと比較して99パーセンタイルのクエリ完了時間を約20%短縮し、ECN*と比較しても13.6%短縮した。これは、遅延に敏感なワークロードにおける顕著なパフォーマンス向上を示している。
• 小規模フロー（100KB未満）では、S-ECNはECN*と比較して99パーセンタイルのフローコンプリートタイムを14.2%短縮し、DCTCPと比較しては25.9%短縮した。これは、短時間で重要な遅延に敏感なトラフィックに対して顕著な利点を示している。