[论文解读] Low Latency Datacenter Networking: A Short Survey

Shuhao Liu, Hong Xu+1 more|arXiv (Cornell University)|Dec 12, 2013

Cloud Computing and Resource Management参考文献 14被引用 25

一句话总结

本综述识别出四种降低低延迟数据中心网络延迟的关键技术：减少队列长度、加速重传、优先处理鼠类流量以及利用多路径。其评估了如 DCTCP、DeTail 和 RepFlow 等代表性系统，显示在高负载下平均流完成时间与第 99 百分位数流完成时间最高可提升 70%。

ABSTRACT

Datacenters are the cornerstone of the big data infrastructure supporting numerous online services. The demand for interactivity, which significantly impacts user experience and provider revenue, is translated into stringent timing requirements for flows in datacenter networks. Thus low latency networking is becoming a major concern of both industry and academia. We provide a short survey of recent progress made by the networking community for low latency datacenter networks. We propose a taxonomy to categorize existing work based on four main techniques, reducing queue length, accelerating retransmissions, prioritizing mice flows, and exploiting multi-path. Then we review select papers, highlight the principal ideas, and discuss their pros and cons. We also present our perspectives of the research challenges and opportunities, hoping to aspire more future work in this space.

研究动机与目标

• 应对数据中心网络中日益增长的高网络延迟挑战，特别是对短时、低延迟敏感的鼠类流量。
• 识别并分类降低流完成时间（FCT）的关键研究技术，FCT 是用户感知延迟的主要决定因素。
• 基于四种核心策略提出现有解决方案的分类体系：减少队列长度、加速重传、优先处理鼠类流量以及利用多路径。
• 强调当前基于 TCP 的拥塞控制在拥塞环境下处理鼠类流量的局限性，并指出需要在协议层面进行创新。
• 为未来低延迟数据中心网络研究提供开放性挑战与机遇的见解。

提出的方法

• 提出四类分类体系：减少队列长度（如 DCTCP、HULL）、加速重传（如 DIBS、FastLane）、优先处理鼠类流量（如 pFabric、DeTail）以及利用多路径（如 RepFlow）。
• 分析 DCTCP 等协议如何利用 ECN 和动态窗口缩放技术减少队列占用并提升公平性。
• 描述 DeTail 的跨层设计，通过 PFC 暂停帧实现基于拥塞的逐包路由决策，避免拥塞路径。
• 解释 RepFlow 通过在多条路径上复制鼠类流量以利用路径多样性、降低尾部延迟的机制，且无需修改交换机或终端主机内核。
• 强调 RepFlow 与传输协议无关，可与传统 TCP 及新型协议（如 DCTCP）协同工作。
• 通过 trace 驱动的仿真和排队论方法，验证在各种网络负载和流大小下的性能提升。

实验结果

研究问题

• RQ1 当前数据中心网络设计在哪些方面未能满足交互式应用对低延迟的要求，特别是对短时鼠类流量？
• RQ2 数据中心网络中高流完成时间（FCT）的主要原因是什么？其在平均 FCT 与尾部 FCT 之间有何差异？
• RQ3 在真实世界的数据中心工作负载中，减少队列长度、加速重传、优先处理鼠类流量或利用多路径在多大程度上可降低 FCT？
• RQ4 是否能有效利用多路径多样性来降低尾部延迟，而无需对交换机或终端主机软件进行修改？
• RQ5 在动态数据中心环境中，为应用提供可预测的低延迟网络抽象面临哪些根本性挑战？

主要发现

• 当前数据中心网络中的平均流完成时间（FCT）是理论最小值的 2 倍至 3 倍，尾部 FCT（第 99 百分位数）在拥塞条件下超过平均值的 10 倍。
• 交换机中的排队延迟是高延迟的主要原因，尤其对在长“象类”流量后被延迟的短“鼠类”流量影响显著。
• RepFlow 通过在多条路径上复制鼠类流量，在所有测试负载下均实现了平均 FCT 和第 99 百分位数 FCT 降低 50%–70%。
• DeTail 通过实现基于拥塞感知的逐包路由，利用 PFC 暂停信号避开拥塞路径，从而降低尾部 FCT。
• 如 DCTCP 和 PDQ 等协议通过基于 ECN 和队列反馈动态调整拥塞控制，降低平均 FCT，提升公平性与响应能力。
• 本综述指出，迫切需要一种网络抽象，能对平均和尾部 FCT 提供统计保证，从而简化在不可预测环境中的应用设计。