[论文解读] Practical scalability assesment for parallel scientific numerical applications

Natalie Perlin, Joel Zysman+1 more|arXiv (Cornell University)|Nov 4, 2016

Parallel Computing and Optimization Techniques被引用 5

一句话总结

本文提出一种幂律拟合模型 C(N) = bN^a，用于估计并行科学数值应用的可扩展性，基于不同核心数下的CCSM模拟。该方法在各类指标中均得到一致的幂律系数（a），即使在无串行运行的情况下也能实现可靠的性能预测，且在中等核心数范围内表现出对数线性行为（N）。

ABSTRACT

The concept of scalability analysis of numerical parallel applications has been revisited, with the specific goals defined for the performance estimation of research applications. A series of Community Climate Model System (CCSM) numerical simulations were used to test the several MPI implementations, determine optimal use of the system resources, and their scalability. The scaling capacity and model throughput performance metrics for $N$ cores showed a log-linear behavior approximated by a power fit in the form of $C(N)=bN^a$, where $a$ and $b$ are two empirical constants. Different metrics yielded identical power coefficients ($a$), but different dimensionality coefficients ($b$). This model was consistent except for the large numbers of N. The power fit approach appears to be very useful for scalability estimates, especially when no serial testing is possible. Scalability analysis of additional scientific application has been conducted in the similar way to validate the robustness of the power fit approach.

研究动机与目标

• 开发一种实用方法，用于评估并行科学数值应用的可扩展性，而无需进行串行执行。
• 评估社区气候模式系统（CCSM）在不同MPI实现和核心数下的可扩展性。
• 识别大规模科学工作负载中系统资源的最佳利用与吞吐量性能。
• 验证该幂律拟合模型在CCSM以外的多种科学应用中的鲁棒性。

提出的方法

• 基于CCSM模拟数据，将模型吞吐量和可扩展性指标经验性地拟合到幂律函数 C(N) = bN^a。
• 分析不同核心数（N）下的性能表现，以识别可扩展性趋势中的对数线性行为。
• 比较多种MPI实现，以确定最优配置和资源使用方式。
• 在不同性能指标（如时间、吞吐量）中使用相同的幂律模型，以检验指数a的一致性。
• 在其他科学应用上验证该模型，以评估其泛化能力。
• 将该模型应用于串行运行不可用的情况，仅基于并行数据进行外推，以估计可扩展性。

实验结果

研究问题

• RQ1 幂律模型能否准确表示不同核心数下并行科学数值应用的可扩展性？
• RQ2 在不同性能指标（如时间与吞吐量）之间，幂律系数（a）的一致性如何？
• RQ3 该模型在大规模核心数（N）下仍保持有效性的程度如何，其失效点出现在何处？
• RQ4 当串行执行不可行时，该模型能否被可靠地用于可扩展性估计？
• RQ5 不同MPI实现如何影响观测到的可扩展性及最优资源利用率？

主要发现

• 幂律模型 C(N) = bN^a 在可扩展性数据上提供了稳定拟合，且在不同性能指标间具有相同的幂律系数（a）。
• 维度系数（b）随指标变化，但指数a保持稳定，表明该模型的缩放行为具有鲁棒性。
• 在中等核心数（N）范围内观察到对数线性可扩展性行为，仅在核心数极大时出现偏离。
• 即使缺乏串行基准测试，该模型也能实现可靠的可扩展性估计，使其在真实科学应用中具有实用性。
• 在其他科学应用上的验证结果证实了该模型的鲁棒性与泛化能力，不仅限于CCSM案例研究。
• 通过分析不同核心数下MPI实现的性能，识别出了最优的系统资源利用率。