[论文解读] PowerTracer: Tracing requests in multi-tier services to save cluster power consumption

Yuan Lin, Jianfeng Zhan+3 more|arXiv (Cornell University)|Jul 28, 2010

Cloud Computing and Resource Management参考文献 41被引用 4

一句话总结

PowerTracer 提出了一种基于请求追踪的方法，用于在多层 Web 服务中实现准确、低复杂度的集群级 DVFS 控制。通过识别主要因果路径模式并监控各层服务时间，该方法减少了性能剖析时间，并支持更简单的反馈控制器，实现逐个节点调节频率，从而在三层次测试平台上相比以往方法实现了更优的节能效果。

ABSTRACT

As energy proportional computing gradually extends the success of DVFS (Dynamic voltage and frequency scaling) to the entire system, DVFS control algorithms will play a key role in reducing server clusters' power consumption. The focus of this paper is to provide accurate cluster-level DVFS control for power saving in a server cluster. To achieve this goal, we propose a request tracing approach that online classifies the major causal path patterns of a multi-tier service and monitors their performance data as a guide for accurate DVFS control. The request tracing approach significantly decreases the time cost of performance profiling experiments that aim to establish the empirical performance model. Moreover, it decreases the controller complexity so that we can introduce a much simpler feedback controller, which only relies on the single-node DVFS modulation at a time as opposed to varying multiple CPU frequencies simultaneously. Based on the request tracing approach, we present a hybrid DVFS control system that combines an empirical performance model for fast modulation at different load levels and a simpler feedback controller for adaption. We implement a prototype of the proposed system, called PowerTracer, and conduct extensive experiments on a 3-tier platform. Our experimental results show that PowerTracer outperforms its peer in terms of power saving and system performance.

研究动机与目标

• 解决采用功耗比例型硬件的数据中心中集群功耗过高的挑战。
• 减少多层服务中 DVFS 控制所需的性能剖析的时间和复杂度。
• 通过仅逐个调节单个节点频率的更简单反馈控制器，实现准确的集群级 DVFS 控制。
• 在不牺牲服务质量（尤其是延迟和请求截止时间符合率）的前提下提升能效。

提出的方法

• 在操作系统、中间件或应用层对系统进行插桩，以追踪因果路径——即具有前后关系的消息发送与接收活动序列——这些路径由单个请求触发。
• 识别并分类占请求处理时间显著比例的主要因果路径模式，重点关注重复出现的执行路径。
• 针对每种识别出的模式，捕获并监控服务器端延迟，特别是各层的服务时间，以理解组件级别的性能贡献。
• 基于追踪到的模式构建经验性能模型，以支持快速、负载感知的 DVFS 调频。
• 设计一种混合控制系统，结合经验模型实现快速频率调节，以及一个简化的反馈控制器，逐个节点调整频率。
• 在三层次平台上实现 PowerTracer 原型系统，以真实工作负载评估该方法。

实验结果

研究问题

• RQ1 如何通过请求追踪减少多层服务中 DVFS 控制所需的性能剖析时间与复杂度？
• RQ2 依赖单节点 DVFS 调节的简化反馈控制器，在多大程度上仍能有效实现集群级功耗管理？
• RQ3 主要因果路径模式的数量和服务时间阈值如何影响功耗节省以及延迟和截止时间失败率等性能指标？
• RQ4 所提出的混合 DVFS 控制方法是否能在保持服务质量的前提下，优于现有解决方案的能效表现？

主要发现

• 请求追踪方法显著降低了构建经验性能模型所需性能剖析实验的时间成本。
• 通过聚焦于主要因果路径模式，控制器复杂度得以降低，从而支持更简单的反馈控制器，实现逐个节点调节频率。
• PowerTracer 相较于其同类系统 [13] 实现了更优的功耗节省，尤其在工作负载变化和延迟约束条件下表现更佳。
• 即使在严格的性能阈值下，系统仍能保持较低的请求截止时间失败率和平均服务器端延迟。
• 主要路径模式数量和服务时间阈值对功耗与性能权衡具有可测量的影响，系统能有效管理这些影响。
• 混合控制策略——结合经验模型实现快速调频与轻量级反馈回路——在动态环境中同时提供了响应速度与适应能力。