[论文解读] ConfigTron: Tackling network diversity with heterogeneous configurations

Usama Naseer, Theophilus Benson|arXiv (Cornell University)|Aug 13, 2019

Caching and Content Delivery被引用 5

一句话总结

ConfigTron 提出了一种数据驱动的在线学习框架，可跨传输层和应用层动态调整网页服务器配置，以提升终端用户性能。通过上下文多臂赌博机算法，它根据连接特征实时调整配置，在各种网络条件下将页面加载时间中位数减少高达19%（750ms）。

ABSTRACT

The web serving protocol stack is constantly changing and evolving to tackle technological shifts in networking infrastructure and website complexity. As a result of this evolution, the web serving stack includes a plethora of protocols and configuration parameters that enable the web serving stack to address a variety of realistic network conditions. Yet, today, most content providers have adopted a "one-size-fits-all" approach to configuring the networking stack of their user facing web servers (or at best employ moderate tuning), despite the significant diversity in end-user networks and devices. In this paper, we revisit this problem and ask a more fundamental question: Are there benefits to tuning the network stack? If so, what system design choices and algorithmic ensembles are required to enable modern content provider to dynamically and flexibly tune their protocol stacks. We demonstrate through substantial empirical evidence that this "one-size-fits-all" approach results in sub-optimal performance and argue for a novel framework that extends existing CDN architectures to provide programmatic control over the configuration options of the CDN serving stack. We designed ConfigTron a data-driven framework that leverages data from all connections to identify their network characteristics and learn the optimal configuration parameters to improve end-user performance. ConfigTron uses contextual multi-arm bandit-based learning algorithm to find optimal configurations in minimal time, enabling a content providers to systematically explore heterogeneous configurations while improving end-user page load time by as much as 19% (upto 750ms) on median.

研究动机与目标

• 解决在多样化终端用户网络和设备上，因采用‘一刀切’方法导致的网页服务器配置性能不佳的问题。
• 探究对多种协议和参数配置进行细粒度、动态调优，是否能显著改善终端用户页面加载时间。
• 设计一种系统，使内容提供商能够基于实时性能反馈，系统性地探索并实时调整配置。
• 克服静态或离线调优方法在动态网络条件和工作负载变化下无法适应的局限性。
• 提供一种可部署、可扩展的框架，通过协议栈配置的程序化控制，扩展CDN架构。

提出的方法

• 采用上下文多臂赌博机算法，在高维传输层和应用层参数配置空间中平衡探索与利用。
• 利用所有活跃连接的实时性能反馈，构建动态性能模型，以指导配置决策。
• 利用多条连接的实时数据，将最优配置泛化至不同网络条件、设备类型和网站复杂度。
• 支持同时调优多个配置旋钮，包括拥塞控制（如BBR、Cubic）、初始窗口大小（initcwnd）、速率控制以及HTTP协议版本。
• 通过接口外部化优化逻辑，允许在不修改网络或终端主机基础设施的情况下，对CDN服务栈进行程序化重新配置。
• 在生产环境中大规模运行，实现实时自适应，且不中断正在进行的连接。

实验结果

研究问题

• RQ1 与默认或静态配置相比，跨多个协议层进行动态、数据驱动的配置调优，是否能显著减少终端用户页面加载时间？
• RQ2 基于上下文赌博机的学习方法在识别多样化和动态网络条件下的最优配置方面，效果如何？
• RQ3 在异构终端用户网络中使用单一配置与采用自适应、上下文感知的配置选择相比，性能影响如何？
• RQ4 ConfigTron 的在线实时学习方法在应对网络动态变化和工作负载波动方面，与离线或静态调优方法相比表现如何？
• RQ5 通过协同方式联合调优传输层和应用层参数，能在多大程度上实现系统整体性能的提升？

主要发现

• ‘一刀切’配置方法导致性能不佳，在多样化网络条件下页面加载时间中位数显著下降。
• 通过动态、数据驱动的调优，ConfigTron 相较于默认配置，将页面加载时间中位数减少高达19%（750ms）。
• 基于上下文赌博机的学习方法能够以极低的探索开销快速收敛至最优配置。
• ConfigTron 在适应实时网络动态变化和工作负载波动方面，优于静态调优、贝叶斯优化和离线学习模型。
• 同时调优拥塞控制、初始窗口大小、速率控制和HTTP版本等多个参数，相比单独调优单个参数，能带来更大的性能提升。
• 实际部署和大规模仿真表明，ConfigTron 的框架在生产级CDN环境中既有效又可立即投入部署。