[论文解读] RepNet: Cutting Tail Latency in Data Center Networks with Flow Replication

Shuhao Liu, Wei Bai+3 more|arXiv (Cornell University)|Jul 4, 2014

Cloud Computing and Resource Management参考文献 26被引用 5

一句话总结

RepNet 是一种应用层传输协议，通过在多个路径上复制鼠标流以利用路径多样性，从而减少数据中心网络中的尾部延迟。它采用两种机制——RepSYN（仅复制SYN分组）和RepFlow（完整流复制），在现有基础设施（如 node.js）上部署开销极小的情况下，实现了尾部延迟和应用完成时间超过50%的降低，尤其在高负载下表现显著。

ABSTRACT

Data center networks need to provide low latency, especially at the tail, as demanded by many interactive applications. To improve tail latency, existing approaches require modifications to switch hardware and/or end-host operating systems, making them difficult to be deployed. We present the design, implementation, and evaluation of RepNet, an application layer transport that can be deployed today. RepNet exploits the fact that only a few paths among many are congested at any moment in the network, and applies simple flow replication to mice flows to opportunistically use the less congested path. RepNet has two designs for flow replication: (1) RepSYN, which only replicates SYN packets and uses the first connection that finishes TCP handshaking for data transmission, and (2) RepFlow which replicates the entire mice flow. We implement RepNet on { t node.js}, one of the most commonly used platforms for networked interactive applications. { t node}'s single threaded event-loop and non-blocking I/O make flow replication highly efficient. Performance evaluation on a real network testbed and in Mininet reveals that RepNet is able to reduce the tail latency of mice flows, as well as application completion times, by more than 50\%.

研究动机与目标

• 为解决数据中心网络中高尾部延迟的长期问题，特别是针对短时、交互式鼠标流。
• 设计一种可部署的应用层解决方案，无需修改交换机或终端主机操作系统的配置。
• 通过在多个网络路径上复制流来利用路径多样性，避免拥塞。
• 通过轻量级复制技术（如 RepSYN）最小化性能开销，尤其在 incast 场景下。
• 在真实和模拟的数据中心环境中评估流复制的有效性，证明无需基础设施大规模改造即可实现低延迟提升。

提出的方法

• RepNet 使用流复制技术，将同一鼠标流同时通过多条路径发送，从而提高至少一条路径未拥塞的概率。
• RepSYN 仅复制 SYN 分组以启动第二个 TCP 连接，选择首个完成三次握手的连接用于数据传输，从而减少开销。
• RepFlow 将流的所有分组通过两条 TCP 连接进行复制，以提升延迟容错能力，但会增加带宽消耗。
• 该协议作为 node.js 上的传输模块实现，利用其单线程事件循环和非阻塞 I/O 机制，高效处理流。
• RepNet 与现有的拥塞控制方案（如 DCTCP 和 pFabric）正交，可共存并实现性能增益的叠加。
• 性能评估在真实叶-脊架构测试平台和 Mininet 网络仿真环境中进行，使用来自生产网络的真实流大小分布。

实验结果

研究问题

• RQ1 在不依赖硬件或操作系统级修改的前提下，应用层的流复制能否显著降低数据中心网络中的尾部延迟？
• RQ2 与完整流复制（RepFlow）相比，仅复制 SYN 分组的 RepSYN 在延迟降低和 incast 性能方面表现如何？
• RQ3 流复制在多大程度上改善了桶排序等交互式工作负载的应用级完成时间？
• RQ4 为何 RepNet 在低网络负载下表现出有限收益？Mininet 控制器的开销如何影响评估结果？
• RQ5 在模拟环境中存在控制器引入的延迟情况下，流复制带来的路径多样性是否仍能提供可测量的延迟收益？

主要发现

• 在真实测试平台和 Mininet 仿真环境中，RepNet 在高网络负载下均将鼠标流的尾部延迟（第 99 百分位数）降低超过 50%。
• 在高负载场景下，由于 SYN 分组在多条路径上的 RTT 估计稳定，RepSYN 实现了与 RepFlow 相当甚至更优的尾部延迟降低效果。
• 在 incast 场景中，RepSYN 优于 RepFlow，因为它避免了因过度复制分组导致的性能下降。
• 使用 RepFlow 或 RepSYN 后，桶排序工作负载的应用级完成时间均改善约 50%。
• 在低负载条件下，RepNet 几乎无收益，主要由于 Mininet 中控制器引入的延迟，这并不反映真实世界情况。
• 在 node.js 上的实现使得 RepNet 可立即部署，仅需极少代码修改，使其适用于现有交互式应用。