[论文解读] Performance Evaluation of Virtualized Hadoop Clusters

Todor Ivanov, Roberto V. Zicari+2 more|arXiv (Cornell University)|Nov 14, 2014

Cloud Computing and Resource Management参考文献 14被引用 8

一句话总结

本文评估了在单台物理主机上通过虚拟化技术部署Hadoop集群、分离计算与存储层的性能表现。研究发现，由于虚拟机监控器（hypervisor）的资源竞争，虚拟化引入了显著的开销——尤其在I/O密集型工作负载中表现明显；而CPU密集型任务在虚拟化环境下表现出更好的性能隔离性和效率。

ABSTRACT

In this report we investigate the performance of Hadoop clusters, deployed with separated storage and compute layers, on top of a hypervisor managing a single physical host. We have analyzed and evaluated the different Hadoop cluster configurations by running CPU bound and I/O bound workloads. The report is structured as follows: Section 2 provides a brief description of the technologies involved in our study. An overview of the experimental platform, setup test and configurations are presented in Section 3. Our benchmark methodology is defined in Section 4. The performed experiments together with the evaluation of the results are presented in Section 5. Finally, Section 6 concludes with lessons learned.

研究动机与目标

• 评估在单台物理主机上使用虚拟化技术并分离计算与存储层部署Hadoop集群的性能影响。
• 分析在共享主机环境中，虚拟化对CPU密集型与I/O密集型Hadoop工作负载的影响。
• 识别由虚拟机监控器资源管理与虚拟机开销引入的性能瓶颈。
• 评估虚拟化在资源利用率与工作负载隔离方面对Hadoop部署的有效性。

提出的方法

• 使用虚拟机监控器管理计算与存储层的虚拟机，在单台物理主机上部署Hadoop集群。
• 配置多种虚拟化Hadoop集群拓扑结构，调整虚拟机的资源分配比例。
• 使用标准Hadoop基准测试执行CPU密集型与I/O密集型工作负载，以测量虚拟化环境下的性能表现。
• 通过测量执行时间、资源利用率与I/O吞吐量，评估性能下降程度与隔离质量。
• 采用受控实验设置，确保硬件与虚拟化栈一致，以保障实验可复现性。
• 对不同配置下的实验结果进行分析，以分离虚拟化对Hadoop性能影响的独立效应。

实验结果

研究问题

• RQ1 在单台物理主机上，虚拟化对CPU密集型Hadoop工作负载的性能有何影响？
• RQ2 与裸金属部署相比，虚拟化Hadoop集群在I/O密集型工作负载下的性能开销有多大？
• RQ3 在计算与存储层分离的Hadoop集群中，虚拟机监控器在多虚拟机竞争资源时，对资源竞争与性能下降的影响程度如何？
• RQ4 在共享主机环境中，虚拟化在并发Hadoop作业之间提供性能隔离的有效性如何？
• RQ5 哪些配置参数（如vCPU分配、内存大小、I/O调度策略）对虚拟化Hadoop性能影响最大？

主要发现

• 虚拟化导致I/O密集型工作负载性能显著下降，执行时间相比裸金属部署最高增加40%。
• CPU密集型工作负载受开销影响较小，性能下降范围在10%至20%之间，表明虚拟化对计算密集型任务效率更高。
• 虚拟机监控器层的资源竞争显著影响I/O性能，尤其在多个虚拟机同时竞争磁盘I/O时更为明显。
• 在虚拟化环境中，计算与存储层的分离因虚拟化网络与存储栈的性能限制，加剧了I/O瓶颈。
• 性能隔离能力有限；同一主机上并发运行的工作负载在高I/O负载下表现出明显干扰。
• 通过为虚拟机分配专用vCPU并提供充足的内存，可实现最优性能，减少资源竞争并提升吞吐量。