[论文解读] Modeling and Predicting Power Consumption of High Performance Computing Jobs

Curtis B. Storlie, Joe Sexton+4 more|arXiv (Cornell University)|Dec 17, 2014

Algorithms and Data Compression参考文献 32被引用 13

一句话总结

本文提出一种具有隐马尔可夫与狄利克雷过程组件的分层贝叶斯模型，用于预测高性能计算（HPC）作业的功耗，并实现最优的节点级功耗限制。结果表明，与均匀功耗限制相比，基于统计信息的限制可将平均性能退化降低约75%，相当于释放出4.5个节点的计算能力。

ABSTRACT

Power is becoming an increasingly important concern for large supercomputing centers. Due to cost concerns, data centers are becoming increasingly limited in their ability to enhance their power infrastructure to support increased compute power on the machine-room floor. At Los Alamos National Laboratory it is projected that future-generation supercomputers will be power-limited rather than budget-limited. That is, it will be less costly to acquire a large number of nodes than it will be to upgrade an existing data-center and machine-room power infrastructure to run that large number of nodes at full power. In the power-limited systems of the future, machines will in principle be capable of drawing more power than they have available. Thus, power capping at the node/job level must be used to ensure the total system power draw remains below the available level. In this paper, we present a statistically grounded framework with which to predict (with uncertainty) how much power a given job will need and use these predictions to provide an optimal node-level power capping strategy. We model the power drawn by a given job (and subsequently by the entire machine) using hierarchical Bayesian modeling with hidden Markov and Dirichlet process models. We then demonstrate how this model can be used inside of a power-management scheme to minimize the affect of power capping on user jobs.

研究动机与目标

• 应对未来超算中心日益严峻的功耗限制挑战，即功耗基础设施无法像计算需求一样快速扩展。
• 通过预测具有不确定性的作业特定功耗，克服均匀功耗限制的低效问题。
• 开发一种数据驱动、基于统计的限制策略，在满足系统总功耗限制的前提下，最小化性能退化。
• 证明预测建模可显著提升功耗受限HPC环境中的计算效率。

提出的方法

• 使用分层贝叶斯建模估算作业级功耗，通过先验分布量化不确定性。
• 应用隐马尔可夫模型捕捉作业执行阶段功耗变化的时间动态特性。
• 采用狄利克雷过程先验，灵活建模不同类型作业功耗的分布，而无需假设固定数量的聚类。
• 将预测的功耗估计值整合到动态节点级限制策略中，根据预测的功耗需求按作业调整限制值。
• 使用马尔可夫链蒙特卡洛（MCMC）方法，在新数据可用时更新作业功耗预测。
• 通过真实HPC工作负载数据的仿真，对比多种限制策略——朴素均匀限制、贝叶斯限制和务实估计——的效果。

实验结果

研究问题

• RQ1 统计模型能否准确预测HPC作业的功耗并量化不确定性？
• RQ2 与均匀限制相比，预测性功耗限制在最小化整体性能退化方面表现如何？
• RQ3 在功耗限制策略中，计算效率与预测准确性的权衡关系如何？
• RQ4 该模型能否在功耗约束下显著降低任一作业的最大性能退化？
• RQ5 与启发式估计相比，通过贝叶斯方法建模不确定性在提升限制性能方面有何优势？

主要发现

• 所提出的贝叶斯统计限制策略相比朴素均匀限制方法，将平均性能退化降低了约75%，从约4%降至约1%。
• 作业间的最大性能退化从（朴素）约24%降至（贝叶斯）约6%，显著改善了高影响力作业的用户体验。
• 务实估计方法在平均退化性能上几乎与完整贝叶斯模型相当，但速度提升了一个数量级，具备实时部署的可行性。
• 完整贝叶斯模型由于显式处理不确定性，能更好地控制最大退化，而务实方法则忽略了这一点。
• 通过降低平均功耗浪费，该方法释放了相当于4.5个额外节点（共45个节点）的计算能力，相比均匀限制实现了5倍的效率提升。
• 罕见或异常作业的模型失效存在风险，但由于其发生频率较低，对整体系统性能的影响仍保持在较低水平。