[论文解读] On the Energy Proportionality of Scale-Out Workloads

Balaji Subramaniam, Wu-chun Feng|arXiv (Cornell University)|Jan 12, 2015

Cloud Computing and Resource Management参考文献 18被引用 3

一句话总结

本文通过在真实集群上对数据服务、网页搜索和数据缓存工作负载进行实验，研究了横向扩展工作负载中的能量比例问题。研究评估了电源配置（活动/低功耗模式）和资源配置，发现结合使用活动与空闲低功耗模式可将系统功耗降低最多47%，处理器功耗降低最多77%，同时实现满足严格延迟SLO的能效权衡。

ABSTRACT

Our increasing reliance on the cloud has led to the emergence of scale-out workloads. These scale-out workloads are latency-sensitive as they are user driven. In order to meet strict latency constraints, they require massive computing infrastructure, which consume significant amount of energy and contribute to operational costs. This cost is further aggravated by the lack of energy proportionality in servers. As Internet services become even more ubiquitous, scale-out workloads will need increasingly larger cluster installations. As such, we desire an investigation into the energy proportionality and the mechanisms to improve the power consumption of scale-out workloads. Therefore, in this paper, we study the energy proportionality and power consumption of clusters in the context of scale-out workloads. Towards this end, we evaluate the potential of power and resource provisioning to improve the energy proportionality for this class of workloads. Using data serving, web searching and data caching as our representative workloads, we first analyze the component-level power distribution on a cluster. Second, we characterize how these workloads utilize the cluster. Third, we analyze the potential of power provisioning techniques (i.e., active low-power, turbo and idle low-power modes) to improve the energy proportionality of scale-out workloads. We then describe the ability of active low-power modes to provide trade-offs in power and latency. Finally, we compare and contrast power provisioning and resource provisioning techniques. Our study reveals various insights which will help improve the energy proportionality and power consumption of scale-out workloads.

研究动机与目标

• 研究横向扩展工作负载中的能量比例挑战，这些工作负载对延迟敏感，依赖大规模集群。
• 分析集群中各组件的功耗分布，识别出CPU是主要功耗来源（占系统功耗的45–70%）。
• 在细粒度时间分辨率（亚毫秒级）下表征CPU利用率模式，以识别节能机会。
• 评估电源配置技术（活动低功耗、涡轮模式、空闲低功耗）在提升能量比例方面的有效性。
• 比较电源配置与资源配置策略，分析其在不同负载水平下的功耗节省与性能影响的权衡。

提出的方法

• 使用RAPL接口在四节点集群上进行实测功耗测量，以监控各组件的功耗消耗。
• 选取具有代表性的横向扩展工作负载：数据服务（如Netflix）、网页搜索（如Google）和数据缓存（如Facebook）。
• 评估电源配置技术：活动低功耗（C状态）、空闲低功耗（C状态）和涡轮模式，测量其对延迟和功耗的影响。
• 利用工作负载表征分析亚毫秒级分辨率下的CPU利用率，揭示即使在高负载水平下也存在显著的资源利用率不足。
• 实现并比较通过服务器整合与动态卸载实现的资源配置，评估不同负载水平下的能效节省。
• 利用活动低功耗模式映射功耗-性能权衡空间，实现可在SLO约束下配置的功耗节省。

实验结果

研究问题

• RQ1 在不同负载水平下，处理器在横向扩展工作负载中是否为主要功耗来源？
• RQ2 在细粒度时间分辨率下，CPU利用率如何变化，这对功耗管理机会有何启示？
• RQ3 活动与空闲低功耗模式对延迟敏感工作负载中的能量比例和响应时间有何影响？
• RQ4 在不同负载水平下，电源配置与资源配置在功耗节省与性能权衡方面有何差异？
• RQ5 活动低功耗模式是否能构建一个可行的功耗-性能权衡空间，使工作负载在降低能耗的同时仍能满足严格的SLO？

主要发现

• 在横向扩展工作负载中，处理器占总系统功耗的45–70%，是能效优化的主要目标。
• 即使在亚毫秒级时间分辨率下，CPU利用率的显著波动也揭示了通过动态管理实现大幅节能的潜力。
• 结合使用活动与空闲低功耗模式，可实现系统级功耗最多降低47%，处理器级功耗最多降低77%。
• 活动低功耗模式可实现可调节的功耗-性能权衡空间，使工作负载能在更低功耗配置下运行，同时仍满足亚秒级SLO。
• 在低负载水平下，资源配置在能效比例方面表现最佳，此时空闲功耗占主导；而在高负载水平下，电源配置策略更为有效。
• 本研究证实，能量比例运行是可行的，但并非在所有负载水平下都一致，性能代价取决于所选的功耗管理技术。