[论文解读] Improving virtual host efficiency through resource and interference aware scheduling

Evangelos Angelou, Konstantinos Kaffes+3 more|arXiv (Cornell University)|Jan 27, 2016

Cloud Computing and Resource Management参考文献 8被引用 5

一句话总结

本文提出了两种主机级调度方案——资源感知调度（RAS）和干扰感知调度（IAS），通过基于实时资源利用率和预测干扰的负载整合，提升虚拟主机效率，尤其在超量分配环境下表现优异。两种方法将CPU时间最多减少50%，同时将性能保持在基线的10%以内，优于轮询和其他调度器在多种云环境下的表现。

ABSTRACT

Modern Infrastructure-as-a-Service Clouds operate in a competitive environment that caters to any user's requirements for computing resources. The sharing of the various types of resources by diverse applications poses a series of challenges in order to optimize resource utilization while avoiding performance degradation caused by application interference. In this paper, we present two scheduling methodologies enforcing consolidation techniques on multicore physical machines. Our resource-aware and interference-aware scheduling schemes aim at improving physical host efficiency while preserving the application performance by taking into account host oversubscription and the resulting workload interference. We validate our fully operational framework through a set of real-life workloads representing a wide class of modern cloud applications. The experimental results prove the efficiency of our system in optimizing resource utilization and thus energy consumption even in the presence of oversubscription. Both methodologies achieve significant reductions of the CPU time consumed, reaching up to 50%, while at the same time maintaining workload performance compared to widely used scheduling schemes under a variety of representative cloud platform scenarios.

研究动机与目标

• 解决IaaS云环境中因虚拟机干扰导致的性能下降问题，特别是在工作负载整合期间。
• 通过智能虚拟机部署提升物理主机效率并降低能耗。
• 在高超量分配比例下实现有效整合，同时不损害延迟敏感工作负载的QoS。
• 开发轻量级、在线调度机制，能够适应动态工作负载，无需预先的应用性能分析。
• 评估超量分配对性能的影响，并证明干扰感知调度可在极端资源压力下仍保持高效率。

提出的方法

• RAS根据实时CPU、内存和I/O利用率指标动态分组虚拟机，以实现最优整合。
• IAS通过最小化工作负载对的共执行性能分析，预测干扰并选择低干扰虚拟机组合进行共置。
• 两种方案均采用动态CPU亲和性绑定，以减少多核系统中的时间与空间共享干扰。
• 该框架将微体系结构层面的考量，特别是内存带宽竞争，整合进调度决策。
• 调度决策在线进行，可适应变化的工作负载，无需事先了解行为特征。
• 系统使用三种场景下的真实云工作负载进行评估：标准场景、延迟敏感场景和具有不同负载模式的动态工作负载。

实验结果

研究问题

• RQ1 如何优化工作负载整合，以在最小化干扰导致的性能下降的同时提升主机效率？
• RQ2 在超量分配条件下，资源感知与干扰感知调度能在多大程度上减少CPU时间消耗？
• RQ3 在不同工作负载类型和超量分配水平下，干扰感知调度与轮询及其他基线调度器的性能相比如何？
• RQ4 是否仅通过运行时指标即可实现有效整合，而无需事先了解应用行为？
• RQ5 超量分配对虚拟机性能有何影响？调度机制如何缓解其负面影响？

主要发现

• 在超量分配比为1.0的延迟敏感场景中，IAS相比轮询调度将CPU时间消耗最多减少50%。
• 在动态场景中，RAS通过检测并整合空闲工作负载，使性能提升18%，核心小时数最多减少35%。
• 在超量分配比为2.0时，RAS与IAS均将性能保持在基线的10%以内，同时将CPU时间减少11.5%至15%。
• CAS（基线调度器）在核心小时数方面改善甚微，且性能表现劣于RRS，尤其在高超量分配环境下。
• 资源与干扰感知的结合显著降低了能耗，提升了主机利用率，同时未损害延迟敏感应用的QoS。
• 结果表明，干扰感知调度在虚拟机密度高且工作负载多变的场景中尤为有效，而传统调度器难以适应此类环境。