[论文解读] Machine Learning for Predictive Analytics of Compute Cluster Jobs

Dan Andresen, William Hsu+2 more|arXiv (Cornell University)|May 20, 2018

Data Stream Mining Techniques参考文献 15被引用 9

一句话总结

本文提出了一种监督式机器学习方法，利用堪萨斯州立大学Beocat集群的历史作业日志，在作业提交时预测因内存或CPU资源分配不足而导致的HPC作业失败。研究表明，分类模型（尤其是高斯朴素贝叶斯）在仅使用提交时可用的特征情况下，能够以高准确率预测与资源相关的作业失败，从而实现个性化反馈，提升资源估算能力。

ABSTRACT

We address the problem of predicting whether sufficient memory and CPU resources have been requested for jobs at submission time. For this purpose, we examine the task of training a supervised machine learning system to predict the outcome - whether the job will fail specifically due to insufficient resources - as a classification task. Sufficiently high accuracy, precision, and recall at this task facilitates more anticipatory decision support applications in the domain of HPC resource allocation. Our preliminary results using a new test bed show that the probability of failed jobs is associated with information freely available at job submission time and may thus be usable by a learning system for user modeling that gives personalized feedback to users.

研究动机与目标

• 开发一种机器学习系统，以在作业提交时预测HPC作业是否会因CPU或内存分配不足而失败。
• 通过预测分析实现前瞻性决策支持，改善HPC资源分配。
• 利用Beocat HPC集群的真实作业日志构建测试平台，以训练和评估模型对历史作业行为的预测能力。
• 通过将作业失败模式与用户经验及人口统计特征关联，探索用户建模，以实现个性化反馈。
• 评估使用监督学习仅基于提交时元数据预测作业资源使用量和失败结果的可行性。

提出的方法

• 收集并处理了Beocat HPC系统的历史作业提交与监控日志，包括作业请求参数和实际资源使用情况。
• 从作业提交中提取特征，如请求的CPU时间、内存、核心数以及用户特定的历史行为。
• 应用监督分类模型（如CART、高斯朴素贝叶斯、随机森林）以预测因资源估算不足导致的作业失败。
• 使用回归模型（如CART回归）基于提交特征预测实际的CPU和内存使用量。
• 采用准确率、精确率、召回率和F1分数等指标评估模型性能，重点关注推理时间以适用于生产环境。
• 探索用户聚类与社交网络建模，以识别专家群体，提升用户画像质量，从而实现个性化推荐。

实验结果

研究问题

• RQ1 基于历史作业日志训练的机器学习模型能否在作业提交时以高准确率预测因资源分配不足导致的作业失败？
• RQ2 在准确率、精确率和推理速度方面，哪些机器学习算法在分类资源相关作业失败时表现最佳？
• RQ3 用户特定的历史行为（如过往失败率）在多大程度上能提升预测性能？
• RQ4 不同数据分布（如非线性CPU使用与线性内存使用）如何影响回归与分类模型的选择？
• RQ5 基于作业相似性与失败模式的用户间社交网络结构，能否增强预测建模与用户反馈个性化？

主要发现

• 高斯朴素贝叶斯在所有分类模型中准确率最高，并因其推理时间极短而被选为最高效的模型。
• CART回归能有效预测CPU使用量（其分布呈非线性），但因内存使用量分布接近线性而无法准确预测。
• 在添加用户聚合特征后，F1分数或准确率未见显著提升，表明当前特征集的预测能力有限。
• 在使用用户特征时，CPU使用量预测的R-squared值出现小幅提升，表明存在边际收益。
• 研究发现作业失败与标准提交时特征之间无明显可识别关系，表明当前数据可能缺乏足够的预测信号。
• 结果表明需要采用更先进的因果模型（如贝叶斯网络或图模型）以更好地捕捉用户行为与失败模式。