[论文解读] Micro-burst in Data Centers: Observations, Implications, and Applications

Danfeng Shan, Fengyuan Ren+2 more|arXiv (Cornell University)|Apr 26, 2016

Cloud Computing and Resource Management被引用 10

一句话总结

本文提出S-ECN，一种基于队列长度增长斜率检测并抑制数据中心内微突发的ECN标记策略。通过实现早期拥塞信令，S-ECN将队列长度峰值降低超过50%，并将第99百分位查询完成时间减少约20%，优于现有协议如DCTCP和ECN*。

ABSTRACT

Micro-burst traffic is not uncommon in data centers. It can cause packet dropping, which results in serious performance degradation (e.g., Incast problem). However, current solutions that attempt to suppress micro-burst traffic are extrinsic and ad hoc, since they lack the comprehensive and essential understanding of micro-burst's root cause and dynamic behavior. On the other hand, traditional studies focus on traffic burstiness in a single flow, while in data centers micro-burst traffic could occur with highly fan-in communication pattern, and its dynamic behavior is still unclear. To this end, in this paper we re-examine the micro-burst traffic in typical data center scenarios. We find that evolution of micro-burst is determined by both TCP's self-clocking mechanism and bottleneck link. Besides, dynamic behaviors of micro-burst under various scenarios can all be described by the slope of queue length increasing. Our observations also implicate that conventional solutions like absorbing and pacing are ineffective to mitigate micro-burst traffic. Instead, senders need to slow down as soon as possible. Inspired by the findings and insights from experimental observations, we propose S-ECN policy, which is an ECN marking policy leveraging the slope of queue length increasing. Transport protocols utilizing S-ECN policy can suppress the sharp queue length increment by over 50%, and reduce the 99th percentile of query completion time by ~20%.

研究动机与目标

• 理解数据中心网络中微突发的根本原因及其动态行为，其与传统互联网流量模式存在差异。
• 识别为何传统微突发缓解技术（如速率调节和缓冲吸收）在数据中心环境中无效。
• 开发一种传输协议策略，实现早期拥塞检测与速率抑制，以在缓冲区溢出前抑制微突发。
• 设计并评估一种基于ECN的标记策略，利用队列斜率实现高吞吐量、短时流工作负载下的主动拥塞控制。

提出的方法

• 作者通过在不同流模式和网络条件下进行受控实验，对真实数据中心工作负载中的队列长度演化进行细粒度监控。
• 分析队列长度增长的斜率作为微突发动态的关键指标，发现其在各种场景下均能一致描述微突发行为。
• 基于此洞察，设计S-ECN，一种当队列斜率超过阈值时触发拥塞通知的ECN标记策略，从而实现发送端的早期速率降低。
• S-ECN采用基于队列长度瞬时斜率的概率性标记机制，避免对瞬时波动过度反应，同时确保及时响应。
• 在真实工作负载中评估该协议，包括Web搜索和小流工作负载，将S-ECN与ECN*、DCTCP和SL-ECN进行对比。
• 通过查询完成时间（尤其是第99百分位）、队列长度动态特性以及不同流大小下的流完成时间来衡量性能。

实验结果

研究问题

• RQ1 在高聚合度、短时流的数据中心网络中，微突发演化的根本驱动力是什么？
• RQ2 微突发的动态行为在不同流量模式下（包括同步与异步流聚合）如何变化？
• RQ3 为何传统微突发缓解技术（如速率调节和缓冲吸收）在数据中心环境中无效？
• RQ4 队列长度增长的斜率是否可作为不同网络场景下微突发严重程度的通用预测指标？
• RQ5 基于队列斜率的拥塞信令策略在时延敏感型工作负载中，能在多大程度上改善端到端性能？

主要发现

• TCP的自时钟机制与瓶颈链路共同决定了数据中心网络中微突发的演化过程。
• 队列长度增长的斜率是通用指标，在所有测试场景下均能准确描述微突发动态，无论流类型或背景流量如何。
• 传统方案（如缓冲吸收和包速率调节）在数据中心中对微突发无效，原因在于响应延迟以及无法防止早期队列积聚。
• 与主流传输协议相比，S-ECN将队列长度峰值增量降低了超过50%，显著抑制了微突发。
• 与DCTCP相比，S-ECN将第99百分位查询完成时间减少约20%；与ECN*相比，减少13.6%，表明在时延敏感型工作负载中性能显著提升。
• 对于小流（<100KB），与ECN*相比，S-ECN将第99百分位流完成时间减少14.2%；与DCTCP相比，减少25.9%，表明对短时、时延敏感型流量具有显著优势。