[論文レビュー] A cost-benefit analysis of low latency via added utilization

Ashish Vulimiri, Brighten Godfrey+3 more|arXiv (Cornell University)|Jun 15, 2013

Caching and Content Delivery参考文献 4被引用数 3

ひとこと要約

この論文は、広域クライアント・サーバーシステムにおける帯域幅使用量の増加を伴うレイテンシ低減技術を評価するための経済的コスト・ベネフィットフレームワークを提案する。レイテンシの削減と追加の利用コストのトレードオフを定量化することで、1 KBあたりの追加トラフィックに対して10 msを超えるレイテンシ削減を実現する技術は、楽観的でないコスト見積もりのもとでも経済的に有益であるというベンチマークを確立する。このベンチマークは、重複するDNSリクエストに関する事例研究を通じて検証された。

ABSTRACT

Several recently proposed techniques achieve latency reduction by trading it off for some amount of additional bandwidth usage. But how would one quantify whether the tradeoff is actually beneficial in a given system? We develop an economic cost vs. benefit analysis for answering this question. We use the analysis to derive a benchmark for wide-area client-server applications, and demonstrate how it can be applied to reason about a particular latency saving technique --- redundant DNS requests.

研究の動機と目的

• 広域クライアント・サーバーアプリケーションにおけるレイテンシ低減と帯域幅使用量の増加の間の経済的トレードオフを体系的に評価するフレームワークを開発すること。
• 実世界の価格設定とパフォーマンス指標を考慮した上で、クライアントおよびサーバー両者の視点から、レイテンシ削減技術のコストとベネフィットを定量化すること。
• レイテンシ低減のための追加利用コストが経済的に正当化される条件を示す実用的なベンチマークを導出すること。
• 重複するDNSリクエストに関する事例研究を通じて、フレームワークの有効性を検証し、ウェブページのロード時間に与える実世界の影響を評価すること。

提案手法

• フレームワークは、追加トラフィック1 KBあたりのレイテンシ削減量（$\ell$）を、利益対コストの比としてモデル化し、クライアントおよびサーバー両側で正規化する。
• クライアントおよびサーバー側の帯域幅使用に対する正規化コストパラメータ（$p_c$, $p_s$）と、各エンドでのレイテンシ改善に対する価値パラメータ（$v_c$, $v_s$）を導入する。
• コア基準は $\ell \geq \max\left\{ \frac{p_s}{v_s}, \frac{p_c}{v_c} \right\}$ であり、クライアントおよびサーバーの両方が技術の導入によって純利益を得られることを保証する。
• AWS、Azure、CloudFrontなどのクラウドプロバイダーおよびAT&T、O2などの一般消費者向けプランの公開価格データを用いて、$p_c$ および $p_s$ を推定する。
• 保守的なコスト見積もりを用いて、さまざまなサービスプランを対象に、ブレーキーレンスのレイテンシ削減閾値（$\ell$）を計算することで、ベンチマークを導出する。
• フレームワークは、実際の展開（Chrome on Emulab、Firefox on DSL）における平均および95パーセンタイルのページロード時間の改善を測定することで、重複するDNSリクエストに適用する。

実験結果

リサーチクエスチョン

• RQ1 追加トラフィック1 KBあたりに、クライアントおよびサーバーの両方が経済的に利益を得られる最小のレイテンシ改善量はどの程度か？
• RQ2 通信回線（例：モバイル通信対DSL）やホスティング形態（クラウド対自社ホスティング）の違いが、レイテンシ低減技術の採用に必要な経済的閾値にどのように影響するか？
• RQ3 重複するDNSリクエストは、実世界のウェブページロード時間にどの程度改善をもたらすか。また、どこまでが経済的に非効率な水準に達するか？
• RQ4 追加のDNSサーバーを追加することによるインクリメンタルな利益はどのようにスケーリングされるか。また、経済的閾値を超えるのはどの段階か？

主な発見

• 楽観的でないコスト見積もりのもとでも、1 KBあたり10 msのレイテンシ削減が達成される技術は、経済的に有効であるというベンチマークが成立する。
• 実際のシナリオ（例：クライアントがDSLを使用し、サーバーが外部ホスティングを利用）では、必要なレイテンシ削減閾値が最小で0.25 ms/KBまで低下する。
• 10台以上のサーバーに重複するDNSリクエストを送信すると、平均および95パーセンタイルのページロード時間がそれぞれ6–15%改善され、絶対値で200–700 msおよび500–2300 msの改善が得られる。
• 追加のDNSサーバーを1台追加するごとに得られるインクリメンタルな利益は減少し、4重以上にレプリケートする場合、リターンが減少するため、経済的には中立的か、あるいはわずかに不利になる。
• 2–3台のDNSサーバーにリクエストをレプリケートすることは、平均レイテンシにおいてはネットベネフィットをもたらすが、より高いレプリケーションレベルは、尾部レイテンシ（tail latency）のシナリオでのみ正当化される可能性があり、データのノイズが高いため明確な結論は得られない。
• フレームワークは、平均および尾部レイテンシの両方の指標において10台までのDNSサーバーへのリクエストレプリケーションが、すべてのテスト構成で10 ms/KBのベンチマークを超えることから、コスト効果的であることを確認した。