[論文レビュー] Practical scalability assesment for parallel scientific numerical applications

Natalie Perlin, Joel Zysman+1 more|arXiv (Cornell University)|Nov 4, 2016

Parallel Computing and Optimization Techniques被引用数 5

ひとこと要約

本論文では、さまざまなコア数でのCCSMシミュレーションを用いて、並列科学的数値アプリケーションのスケーラビリティを推定するためのパワー則フィットモデル C(N) = bN^a を提案する。このアプローチにより、スケーリング係数 a がメトリクス間で一貫しており、シリアル実行が不要な場合でも、信頼性の高い性能予測が可能である。また、中程度のコア数 (N) まで対数線形の挙動が観察された。

ABSTRACT

The concept of scalability analysis of numerical parallel applications has been revisited, with the specific goals defined for the performance estimation of research applications. A series of Community Climate Model System (CCSM) numerical simulations were used to test the several MPI implementations, determine optimal use of the system resources, and their scalability. The scaling capacity and model throughput performance metrics for $N$ cores showed a log-linear behavior approximated by a power fit in the form of $C(N)=bN^a$, where $a$ and $b$ are two empirical constants. Different metrics yielded identical power coefficients ($a$), but different dimensionality coefficients ($b$). This model was consistent except for the large numbers of N. The power fit approach appears to be very useful for scalability estimates, especially when no serial testing is possible. Scalability analysis of additional scientific application has been conducted in the similar way to validate the robustness of the power fit approach.

研究の動機と目的

• シリアル実行を必要としない、並列科学的数値アプリケーションのスケーラビリティを評価する実用的手法を開発すること。
• コミュニティ気候モデルシステム（CCSM）の異なるMPI実装およびコア数におけるスケーラビリティを評価すること。
• 大規模な科学的ワークロードにおける最適なシステムリソース利用とスループットパフォーマンスを特定すること。
• CCSM以外の多様な科学的アプリケーションにまで一般化可能なパワー・フィットモデルの頑健性を検証すること。

提案手法

• CCSMシミュレーションデータを用いて、モデルスループットおよびスケーラビリティメトリクスをパワー則関数 C(N) = bN^a に実験的にフィットする。
• コア数（N）を変化させた際のパフォーマンスを分析し、スケーリングトレンドにおける対数線形挙動を同定する。
• 複数のMPI実装を比較して、最適な構成およびリソース使用状況を特定する。
• 時間やスループットなどの異なるパフォーマンスメトリクスに同じパワー則モデルを適用し、指数 a の一貫性を検証する。
• 追加の科学的アプリケーションを用いてモデルの一般化可能性を評価する。
• シリアル実行が不可能な状況でも、パラレルデータからの外挿に焦点を当て、スケーリング推定にモデルを適用する。

実験結果

リサーチクエスチョン

• RQ1 パワー則モデルは、異なるコア数において並列科学的数値アプリケーションのスケーラビリティを正確に表現できるか？
• RQ2 時間やスループットなどの異なるパフォーマンスメトリクスにおいて、パワー則係数（a）はどの程度一貫しているか？
• RQ3 大きなコア数（N）において、モデルはどの程度有効であり、どこで破綻するか？
• RQ4 シリアル実行が不可能な状況でも、モデルを信頼性高くスケーリング推定に使用できるか？
• RQ5 異なるMPI実装は、観察されるスケーリングおよび最適リソース利用にどのように影響を与えるか？

主な発見

• パワー則モデル C(N) = bN^a は、スケーリングデータに一貫したフィットを示し、異なるパフォーマンスメトリクス間で同一のパワー係数（a）が得られた。
• 次元係数（b）はメトリクスによって変動したが、指数 a は安定しており、モデルのスケーリング挙動の頑健性を示している。
• 中程度のコア数（N）において、対数線形のスケーリング挙動が観察されたが、非常に大きな N になるとずれが生じた。
• シリアルベンチマーキングが存在しない状況でも、モデルは信頼性の高いスケーリング推定を可能にし、実世界の科学的アプリケーションにおいて実用的である。
• 追加の科学的アプリケーションへの適用による検証で、モデルの頑健性および一般化可能性が確認された。
• コア数にわたるMPI実装のパフォーマンス分析を通じて、最適なシステムリソース利用が同定された。