[论文解读] RUPER-LB: Load balancing embarrasingly parallel applications in unpredictable cloud environments

Vicent Giménez-Alventosa, Germán Moltó Martínez+1 more|arXiv (Cornell University)|May 13, 2020

Cloud Computing and Resource Management参考文献 15被引用 5

一句话总结

RUPER-LB 是一种轻量级、异步的负载均衡器，适用于不可预测云环境中松散耦合、迭代式的 MPI/多线程应用。它基于实时线程速度报告动态分配工作，将执行时间减少 6–7%，并在性能波动条件下仍能将进程间和线程间延迟保持在检查点间隔以内。

ABSTRACT

The suitability of cloud computing has been studied by several authors to run scientific applications. However, the unpredictable performance fluctuations in these environments hinders the migration of scientific applications to cloud providers. To mitigate these effects, this work presents RUPER-LB, a load balancer for loosely-coupled iterative parallel applications that runs on infrastructures with disparate computing capabilities. The results obtained with a real world simulation software, show the suitability of RUPER-LB to adapt this kind of applications to execution environments with variable performance and highlight the convenience of its adoption.

研究动机与目标

• 解决由嘈杂邻居和不可预测的 vCPU 行为引起的云环境中性能波动问题。
• 为具有混合 MPI 和多线程并行性的松散耦合、迭代式科学应用提供高效的负载均衡。
• 通过最小化异构云基础设施中运行最慢进程和线程之间的延迟，减少执行时间。
• 提供低开销、易于集成的解决方案，无需预先了解性能信息或紧密同步。
• 通过在受控性能波动条件下对真实世界的辐射传输模拟（PenRed）进行评估，检验 RUPER-LB 的有效性。

提出的方法

• RUPER-LB 使用来自每个 MPI 进程的周期性、异步线程执行速度报告，以评估工作负载分布情况。
• 它基于实时性能指标，动态在各线程和进程之间重新分配迭代任务，避免依赖静态性能模型。
• 该系统通信开销极低，仅需周期性速度报告，适用于同步频率较低的应用。
• 它同时支持多进程（MPI）和多线程负载均衡，实现在两个层级上的工作适应。
• 该算法旨在将进程间和线程间执行延迟保持在可配置的检查点间隔（Δt_pc）以内，确保进度一致性。
• RUPER-LB 为开源软件（GPLv3），可仅通过少量代码修改集成到现有的 MPI/多线程应用中。

实验结果

研究问题

• RQ1 轻量级、异步的负载均衡器能否有效缓解云环境中科学应用的性能波动？
• RQ2 在不可预测的 vCPU 性能条件下，RUPER-LB 如何减少松散耦合、迭代式 MPI/多线程应用的执行时间？
• RQ3 当底层硬件性能波动时，RUPER-LB 在线程和进程之间维持负载均衡的程度如何？
• RQ4 与未平衡执行相比，RUPER-LB 在通信和处理时间方面的开销有多大？
• RQ5 RUPER-LB 能否在无需显著集成复杂度的情况下，有效应用于 PenRed 等真实世界的科学模拟工作负载？

主要发现

• 在单租户节点上运行 4 个 MPI 进程、每个进程 8 个线程时，尽管存在内部线程速度差异，RUPER-LB 仍使整体模拟执行时间减少了 6–7%。
• 通过负载均衡，进程间执行时间差异被控制在 300 秒的检查点间隔（Δt_pc）以内，确保了进度的一致性。
• 每个 MPI 进程内部的线程间延迟也保持在 Δt_pc 以内，证明了其动态负载分配的有效性。
• 由于采用异步、周期性报告机制，系统引入的开销可忽略不计，适用于通信量低的应用。
• 即使在无进程间不平衡的情况下，RUPER-LB 仍通过线程级别的负载均衡提升了性能，这从同一 MPI 进程中不同线程速度演化路径的差异中得到验证。
• 结果证实，RUPER-LB 无需预先了解性能信息或复杂的状态迁移，即可有效缓解云环境中的性能波动。