[论文解读] Enabling Loosely-Coupled Serial Job Execution on the IBM BlueGene/P Supercomputer and the SiCortex SC5832

Ioan Raicu, Zhao Zhang+2 more|ArXiv.org|Aug 26, 2008

Distributed and Parallel Computing Systems参考文献 25被引用 3

一句话总结

本文提出了一套框架，可在不修改应用程序的前提下，高效执行大规模超级计算机（如 IBM BlueGene/P 和 SiCortex SC5832）上的松散耦合串行作业。通过优化 I/O 和任务调度，该框架实现了高可扩展性——在 BlueGene/P 上达到 4096 个处理器，在 SiCortex 上达到 5832 个处理器，持续执行速率高达每秒数千个任务，展示了在能源建模和分子动力学等多样化领域中的有效性。

ABSTRACT

Our work addresses the enabling of the execution of highly parallel computations composed of loosely coupled serial jobs with no modifications to the respective applications, on large-scale systems. This approach allows new-and potentially far larger-classes of application to leverage systems such as the IBM Blue Gene/P supercomputer and similar emerging petascale architectures. We present here the challenges of I/O performance encountered in making this model practical, and show results using both micro-benchmarks and real applications on two large-scale systems, the BG/P and the SiCortex SC5832. Our preliminary benchmarks show that we can scale to 4096 processors on the Blue Gene/P and 5832 processors on the SiCortex with high efficiency, and can achieve thousands of tasks/sec sustained execution rates for parallel workloads of ordinary serial applications. We measured applications from two domains, economic energy modeling and molecular dynamics.

研究动机与目标

• 解决在百亿亿次超级计算机上高效执行大量独立串行作业的挑战。
• 克服松散耦合作业执行模型中阻碍可扩展性的 I/O 性能瓶颈。
• 使现有串行应用程序无需修改即可在大规模系统上高效运行。
• 在两种不同的百亿亿次架构（IBM BlueGene/P 和 SiCortex SC5832）上展示高可扩展性和高性能。
• 通过来自经济能源建模和分子动力学等多样化领域的实际应用验证该方法。

提出的方法

• 设计一个运行时系统，用于在数千个处理器上调度和管理独立的串行作业。
• 实现优化的 I/O 策略，以减少大规模作业执行中的竞争并提高吞吐量。
• 采用轻量级进程管理和作业分发机制，最大限度减少任务创建和协调的开销。
• 利用底层硬件的低延迟互连和高密度计算节点，实现作业的高效分发。
• 与现有作业管理系统集成，确保在生产级超级计算机上兼容且无缝部署。
• 应用负载均衡和容错机制，以在长时间运行的工作负载中保持高利用率和可靠性。

实验结果

研究问题

• RQ1 如何在如 BlueGene/P 和 SiCortex SC5832 这类百亿亿次系统上高效调度和执行松散耦合的串行作业？
• RQ2 大规模作业执行中会出现哪些 I/O 性能瓶颈，如何加以缓解？
• RQ3 现有串行应用程序在现代超级计算机上无需修改即可实现多大程度的规模化执行？
• RQ4 在所提出的方案下，这些架构上可实现的最大任务吞吐量和可扩展性是多少？
• RQ5 该框架在分子动力学和能源建模等不同应用领域中的性能表现如何？

主要发现

• 该系统在 IBM BlueGene/P 和 SiCortex SC5832 上均实现了每秒数千个任务的持续执行速率。
• 在 BlueGene/P 上实现了高达 4096 个处理器的可扩展性，在 SiCortex 上实现了高达 5832 个处理器的可扩展性，且效率很高。
• I/O 优化显著减少了瓶颈，实现了大规模下的高吞吐量作业执行。
• 来自经济能源建模和分子动力学的实际应用表现出优异的性能和可扩展性。
• 该框架使未经修改的串行应用程序能够在大规模系统上执行，扩展了可使用工作负载的范围。
• 微基准测试和生产级应用均证实了该框架在实现高并行效率方面的有效性。