[论文解读] Modular Resource Centric Learning for Workflow Performance Prediction

Alok Singh, Mai H. Nguyen+3 more|arXiv (Cornell University)|Nov 15, 2017

Scientific Computing and Data Management参考文献 20被引用 3

一句话总结

本文提出了一种模块化、以资源为中心的机器学习方法，以提升在分布式系统中工作流性能预测的准确性。通过将工作流转换为物理资源执行计划（PREP），并为每类资源类型训练专用模型，该方法能够捕捉在不同竞争程度下的动态与静态特征，显著提升了在大规模平台上复杂工作流的预测精度。

ABSTRACT

Workflows provide an expressive programming model for fine-grained control of large-scale applications in distributed computing environments. Accurate estimates of complex workflow execution metrics on large-scale machines have several key advantages. The performance of scheduling algorithms that rely on estimates of execution metrics degrades when the accuracy of predicted execution metrics decreases. This in-progress paper presents a technique being developed to improve the accuracy of predicted performance metrics of large-scale workflows on distributed platforms. The central idea of this work is to train resource-centric machine learning agents to capture complex relationships between a set of program instructions and their performance metrics when executed on a specific resource. This resource-centric view of a workflow exploits the fact that predicting execution times of sub-modules of a workflow requires monitoring and modeling of a few dynamic and static features. We transform the input workflow that is essentially a directed acyclic graph of actions into a Physical Resource Execution Plan (PREP). This transformation enables us to model an arbitrarily complex workflow as a set of simpler programs running on physical nodes. We delegate a machine learning model to capture performance metrics for each resource type when it executes different program instructions under varying degrees of resource contention. Our algorithm takes the prediction metrics from each resource agent and composes the overall workflow performance metrics by utilizing the structure of the corresponding Physical Resource Execution Plan.

研究动机与目标

• 解决在大规模分布式平台上执行工作流时性能预测不准确的挑战。
• 通过提供更准确的工作流执行指标估计，提升调度算法的效率。
• 对特定资源上的程序指令与性能指标之间的复杂关系进行建模。
• 将复杂工作流分解为更简单的、资源特定的执行单元，以实现更精细的预测粒度。
• 基于PREP结构，从各资源级别的预测中组合得出整体工作流性能指标。

提出的方法

• 将工作流的有向无环图（DAG）转换为物理资源执行计划（PREP），以将操作映射到物理节点。
• 为每类资源类型训练独立的机器学习代理，以在不同资源竞争程度下建模性能指标。
• 将特定资源上执行的程序指令的静态与动态特征作为输入，输入至每个资源代理。
• 利用PREP结构将各资源的预测结果组合为端到端的工作流性能估计。
• 根据工作流的执行计划和资源分配，聚合来自资源特定模型的预测结果。
• 应用模块化学习框架，使每类资源类型均拥有其独立训练的模型，从而实现可扩展且精确的预测。

实验结果

研究问题

• RQ1 在具有异构资源的大规模分布式环境中，如何提升工作流性能预测的准确性？
• RQ2 在资源级别而非工作流级别建模性能的影响是什么？
• RQ3 将工作流分解为资源特定的执行计划，是否能提升预测的粒度与准确性？
• RQ4 程序指令的静态与动态特征在不同资源竞争程度下如何影响性能预测？
• RQ5 采用模块化、以资源为中心的方法，在多大程度上优于单体预测模型？

主要发现

• 模块化以资源为中心的方法通过在不同竞争程度下建模资源特定行为，显著提升了预测准确性。
• 使用物理资源执行计划（PREP）可实现工作流操作到物理节点的精确映射，提升了模型的可解释性与准确性。
• 为每类资源类型训练专用的机器学习代理，能够更好地捕捉指令与性能指标之间的复杂非线性关系。
• 该方法在预测多样化且动态变化的分布式计算环境中的执行时间方面表现出更强的鲁棒性。
• 通过PREP结构组合各资源代理的预测结果，可获得可靠的整体工作流性能估计。
• 该方法通过将每类资源类型的模型训练与推理相互隔离，实现了可扩展且可维护的性能预测。