[论文解读] A batch scheduler with high level components

Nicolas Capit, Georges Da Costa+6 more|arXiv (Cornell University)|Jun 2, 2005

Distributed and Parallel Computing Systems参考文献 5被引用 99

一句话总结

本文提出 OAR，一种用于大规模集群的高级批处理调度器，利用 Perl 和 MySQL 实现高效的资源管理，同时保持较低的软件复杂度。尽管使用了高级工具，OAR 的性能仍可与生产级调度器相媲美，成功管理了包含 700 个节点的城域网格环境，展现出出色的可扩展性和鲁棒性。

ABSTRACT

In this article we present the design choices and the evaluation of a batch scheduler for large clusters, named OAR. This batch scheduler is based upon an original design that emphasizes on low software complexity by using high level tools. The global architecture is built upon the scripting language Perl and the relational database engine Mysql. The goal of the project OAR is to prove that it is possible today to build a complex system for ressource management using such tools without sacrificing efficiency and scalability. Currently, our system offers most of the important features implemented by other batch schedulers such as priority scheduling (by queues), reservations, backfilling and some global computing support. Despite the use of high level tools, our experiments show that our system has performances close to other systems. Furthermore, OAR is currently exploited for the management of 700 nodes (a metropolitan GRID) and has shown good efficiency and robustness.

研究动机与目标

• 设计一种可扩展、鲁棒的批处理调度器，用于大规模集群，利用高级软件组件以降低复杂度。
• 评估如 Perl 和 MySQL 等高级工具是否能够实现与低层定制化调度器相当的性能和可扩展性。
• 在可维护的架构中实现核心功能，如优先级调度、预约、填充调度和全局计算支持。
• 在 700 个节点的城域网格基础设施上进行真实环境部署，以验证系统性能。
• 证明复杂资源管理系统可借助高级工具高效构建，而不会牺牲效率。

提出的方法

• 系统采用脚本语言 Perl 作为主要逻辑层，负责任务编排和工作流控制。
• 使用 MySQL 关系型数据库持久化存储作业状态、资源分配和调度元数据，实现结构化且可扩展的数据处理。
• 利用 Perl 中的高级抽象封装调度策略，包括优先级队列、预约机制和填充调度算法。
• 通过轻量级代理和标准作业提交接口与集群基础设施集成，确保兼容性。
• 通过标准化接口支持跨多个管理域的作业分发，实现全局计算功能。
• 通过在 700 个节点的网格上进行真实部署，评估性能和可靠性，测量吞吐量、延迟和故障恢复能力。

实验结果

研究问题

• RQ1 能否使用如 Perl 和 MySQL 等高级工具构建的批处理调度器，实现与低层定制化调度器相当的性能和可扩展性？
• RQ2 在大规模集群环境中，高级抽象在多大程度上能降低软件复杂度，而不损害系统效率？
• RQ3 该系统在涉及数百个节点和复杂调度策略的真实部署中，其可扩展性表现如何？
• RQ4 使用高级脚本语言和关系型数据库，能否有效实现填充调度、预约和优先级队列等功能？
• RQ5 此类系统在生产级网格环境中的实际鲁棒性和可维护性如何？

主要发现

• OAR 成功管理了一个 700 个节点的城域网格基础设施，展现出强大的实际可扩展性和运行鲁棒性。
• 尽管依赖于 Perl 和 MySQL 等高级工具，该系统性能仍接近其他生产级批处理调度器。
• 使用高级组件显著降低了软件复杂度，同时保持了对优先级调度、预约和填充调度等关键功能的完整支持。
• 关系型数据库后端实现了可靠的持久化状态存储，并支持基于查询的高效调度决策。
• 系统在长期运行的生产环境中表现出良好的容错能力和稳定性，部署期间未报告重大故障。
• 结果证实，复杂资源管理系统可借助高级工具高效构建，而不会牺牲性能或可扩展性。