[论文解读] A cost-benefit analysis of low latency via added utilization

Ashish Vulimiri, Brighten Godfrey+3 more|arXiv (Cornell University)|Jun 15, 2013

Caching and Content Delivery参考文献 4被引用 3

一句话总结

本文提出了一种经济成本-收益框架，用于评估在广域客户端-服务器系统中增加带宽使用量的延迟降低技术。通过量化延迟节省与额外使用成本之间的权衡，该框架确立了一个基准：任何每千字节额外流量节省超过10毫秒延迟的技术，在最悲观的成本估算下也具有经济合理性，并通过冗余DNS请求的案例研究验证了该结论。

ABSTRACT

Several recently proposed techniques achieve latency reduction by trading it off for some amount of additional bandwidth usage. But how would one quantify whether the tradeoff is actually beneficial in a given system? We develop an economic cost vs. benefit analysis for answering this question. We use the analysis to derive a benchmark for wide-area client-server applications, and demonstrate how it can be applied to reason about a particular latency saving technique --- redundant DNS requests.

研究动机与目标

• 开发一种系统化框架，用于评估广域客户端-服务器应用中延迟降低与带宽使用增加之间的经济权衡。
• 从客户端和服务器的角度量化延迟节省技术的成本与收益，综合考虑现实世界的价格和性能指标。
• 推导出一个实用基准，以确定为降低延迟而增加的使用量何时在经济上具有合理性。
• 通过冗余DNS请求的案例研究验证该框架，评估其对网页加载时间的实际影响。

提出的方法

• 该框架将每千字节额外流量带来的延迟节省（$\ell$）建模为收益与成本的比值，并在客户端和服务器端进行归一化处理。
• 引入客户端和服务器端带宽使用的归一化成本参数（$p_c$、$p_s$），以及每端延迟改善的价值参数（$v_c$、$v_s$）。
• 核心标准为 $\ell \geq \max\left\{ \frac{p_s}{v_s}, \frac{p_c}{v_c} \right\}$，确保客户端和服务器均从该技术中获得净收益。
• 分析使用了来自云服务提供商（如AWS、Azure、CloudFront）和消费者套餐（如AT&T、O2）的公开定价数据，以估算 $p_c$ 和 $p_s$。
• 通过在各种服务套餐中计算盈亏平衡延迟节省阈值（$\ell$），并采用保守成本估算，推导出该基准。
• 将该框架应用于冗余DNS请求，通过测量真实部署中（Chrome在Emulab上、Firefox在DSL上）平均和第95百分位页面加载时间的改善情况。

实验结果

研究问题

• RQ1 每千字节额外流量的延迟节省最小达到多少，才能使延迟节省技术在客户端和服务器双方都具有经济可行性？
• RQ2 不同的成本结构（如移动网络与DSL、云服务与自托管）如何影响采用延迟降低技术的经济阈值？
• RQ3 冗余DNS请求在多大程度上改善了真实世界中的网页加载时间？在何时会变得经济上低效？
• RQ4 增加更多DNS服务器所带来的增量收益如何变化？其收益何时会跨越经济阈值？

主要发现

• 即使在对客户端和服务器均采用最悲观成本估算的情况下，经济可行性的基准仍为每千字节额外流量节省10毫秒延迟。
• 在现实场景中——例如客户端使用DSL、服务器使用外部托管服务——所需的延迟节省阈值可低至0.25毫秒/KB。
• 向10个或更多DNS服务器发起冗余请求，可使平均和第95百分位页面加载时间提升6%–15%，分别对应200–700毫秒和500–2300毫秒的绝对延迟改善。
• 每增加一个额外DNS服务器所带来的增量收益递减，4路或更高复制的收益至多为经济中性，因收益递减效应显著。
• 将DNS请求复制到2–3个服务器可为平均延迟带来净收益，但更高冗余级别可能仅在尾部延迟场景中有合理性，此时数据仍过于嘈杂，无法得出明确结论。
• 该框架证实，在所有测试配置下，向最多10台服务器复制DNS请求均具成本效益，因为其在平均延迟和尾部延迟指标上均超过10毫秒/KB的基准。