[论文解读] Isolating Mice and Elephant in Data Centers

Wenxue Cheng, Fengyuan Ren+4 more|arXiv (Cornell University)|May 25, 2016

Cloud Computing and Resource Management参考文献 19被引用 8

一句话总结

本文提出在数据中心网络中将延迟敏感的“老鼠”流与吞吐量敏感的“大象”流分别隔离到独立的队列中，以实现逐跳（例如 PFC）和端到端（例如 QCN）流控机制的独立应用。仿真结果表明，这种隔离可将老鼠流延迟降低至少 30%，并实现接近 100% 的链路利用率，从而解决由冲突的拥塞控制机制引发的性能下降问题。

ABSTRACT

Data centers traffic is composed by numerous latency-sensitive "mice" flows, which is consisted of only several packets, and a few throughput-sensitive "elephant" flows, which occupy more than 80% of overall load. Generally, the short-lived "mice" flows induce transient congestion and the long-lived "elephant" flows cause persistent congestion. The network congestion is a major performance inhibitor. Conventionally, the hop-by-hop and end-to-end flow control mechanisms are employed to relief transient and persistent congestion, respectively. However, in face of the mixture of elephants and mice, we find the hybrid congestion control scheme including hop-by-hop and end-to-end flow control mechanisms suffers from serious performance impairments. As a step further, our in-depth analysis reveals that the hybrid scheme performs poor at latency of mice and throughput of elephant. Motivated by this understanding, we argue for isolating mice and elephants in different queues, such that the hop-by-hop and end-to-end flow control mechanisms are independently imposed to short-lived and long-lived flows, respectively. Our solution is readily-deployable and compatible with current commodity network devices and can leverage various congestion control mechanisms. Extensive simulations show that our proposal of isolation can simultaneously improve the latency of mice by at least 30% and the link utilization to almost 100%.

研究动机与目标

• 研究在同时应用逐跳和端到端流控机制时，短时老鼠流与长时大象流共 multiplexing 所导致的性能下降问题。
• 识别在共享队列中 PFC 与 QCN 相互作用时，混合流量场景下性能受损的根本原因。
• 设计一种实用且硬件兼容的解决方案，将老鼠流与大象流的流控机制解耦，以同时提升延迟与吞吐量。
• 验证将老鼠流与大象流隔离后，可分别最优地利用逐跳与端到端流控机制，且无需硬件变更。

提出的方法

• 在网络交换机中将老鼠流与大象流隔离到独立队列，以解耦其流控机制。
• 仅对老鼠流应用逐跳流控（例如 PFC），以应对瞬时拥塞。
• 仅对大象流应用端到端流控（例如 QCN），以管理持续拥塞。
• 通过大规模仿真评估在各种流量模式和流控组合下的性能表现。
• 利用现有商用网络设备，无需硬件修改或引入新协议。
• 评估对老鼠流延迟、大象流吞吐量以及整体链路利用率的影响。

实验结果

研究问题

• RQ1 当同时应用逐跳和端到端流控时，老鼠流与大象流共存在单一队列中会如何导致性能下降？
• RQ2 为何在共享队列中 PFC 与 QCN 的交互会导致老鼠流与大象流的性能受损？
• RQ3 将老鼠流与大象流隔离到独立队列是否能消除逐跳与端到端流控机制之间的相互干扰？
• RQ4 通过队列隔离，在老鼠流延迟与链路利用率方面可实现多大程度的性能提升？
• RQ5 所提出的隔离方案是否可在不修改的商用网络硬件上直接部署？

主要发现

• 老鼠流与大象流在单一队列中共 multiplexing 会导致严重性能下降，其根本原因在于 PFC 与 QCN 机制之间的拥塞信号污染。
• 仅使用逐跳流控（PFC）即可满足老鼠流需求，仅使用端到端流控（QCN）即可满足大象流需求，无需联合使用方案。
• 将老鼠流与大象流隔离到独立队列后，老鼠流延迟相比在共享队列中联合控制可降低至少 30%。
• 在隔离方案下，链路利用率可提升至接近 100%，显著优于混合控制方法。
• 所提出的解决方案可直接部署于商用交换机，无需对现有硬件或协议进行任何修改。
• 隔离方法有效解决了瞬时与持续拥塞控制之间的冲突，使两类流均能实现最优性能。