[論文レビュー] Basic Parallel and Distributed Computing Curriculum

Claude Tadonki|arXiv (Cornell University)|Feb 12, 2018

Distributed and Parallel Computing Systems参考文献 15被引用数 3

ひとこと要約

本論文は、コンピュータサイエンスおよび工学分野における並列プログラミングスキルの需要増加に応じて、並列および分散コンピューティング（PDC）のための構造的で、学部レベルに適したカリキュラムを提案する。教育的枠組みとして、依存解析、スケジューリング、およびMPI、OpenMP、Pthreadsといったプログラミングモデルといったコアコンセプトに加え、パフォーマンス評価とデバッグを統合し、非専門家向けのスケーラブルでアクセス可能な教育的道筋を提供するという主な貢献を行う。

ABSTRACT

With the advent of multi-core processors and their fast expansion, it is quite clear that {\em parallel computing} is now a genuine requirement in Computer Science and Engineering (and related) curriculum. In addition to the pervasiveness of parallel computing devices, we should take into account the fact that there are lot of existing softwares that are implemented in the sequential mode, and thus need to be adapted for a parallel execution. Therefore, it is required to the programmer to be able to design parallel programs and also to have some skills in moving from a given sequential code to the corresponding parallel code. In this paper, we present a basic educational scenario on how to give a consistent and efficient background in parallel computing to ordinary computer scientists and engineers.

研究の動機と目的

• マルチコアおよび異種アーキテクチャの台頭に伴い、標準的なコンピュータサイエンスおよび工学カリキュラムにおける並列コンピューティング教育の必要性を満たす。
• PDC教育への歴史的な消極的姿勢を克服し、非専門家向けの学部生に適した構造的かつアクセス可能なカリキュラムを提供する。
• 逐次プログラミングと並列実行の間のギャップを埋めるために、逐次コードから並列コードへの変換を教える。
• パフォーマンス分析、デバッグ、PDC教育用シミュレータおよびツールの使用に関する基礎的スキルを学生に提供する。

提案手法

• テーマモジュールに分類されたコース構造を提案：一般紹介、計算モデル、共有メモリおよび分散メモリパラダイム、命令レベル並列性、パフォーマンス評価。
• タスクグラフや再帰方程式といった形式的表現を用いて、データ依存性、同期、スケジューリングといった重要な概念を導入する。
• 実装の詳細に深く踏み込まず、広く使われているプログラミングモデル（MPIによるメッセージパス方式、OpenMPおよびPthreadsによるスレッドレベル並列性、SSEによるSIMD）に焦点を当てる。
• パフォーマンス測定、デバッグ、プロファイリング技術を統合し、並列プログラムの評価と最適化を可能にする。
• 特に高性能ハードウェアへの直接アクセスが制限される学生にとっても学習を支援するため、シミュレータおよび仮想化ツールの使用を提唱する。
• 教育的整合性と学部レベルに適した適切な深さを確保するため、コース内容を3つのテーマ的グループに分類する。

実験結果

リサーチクエスチョン

• RQ1 どのようにして並列および分散コンピューティングを標準的な学部レベルのコンピュータサイエンスおよび工学カリキュラムに効果的に統合できるか？
• RQ2 学部レベルの入門的PDCコースにおいて、アクセス可能で基礎的な教育を提供するために不可欠なコアコンセプトとプログラミングモデルは何か？
• RQ3 依存解析とスケジューリングは、学生が並列性を理解し、最適化するのを助けるためにどのように教えるべきか？
• RQ4 パフォーマンス評価、デバッグ、シミュレーションツールは、PDC教育を実践的かつ効果的にするために果たす役割は何か？
• RQ5 非専門家向けの学生に対して、逐次プログラミングから並列プログラミングへの移行を体系的かつ効果的に教えるにはどうすればよいか？

主な発見

• マルチコアおよび異種プロセッサの広範な採用を踏まえ、並列および分散コンピューティングは学部レベルで教育されるべきである。
• モデル、プログラミングパラダイム、パフォーマンス分析、ツール利用を統合した構造的カリキュラムにより、学生は中程度の並列プログラムの設計が可能になる。
• 依存解析とスケジューリングは、並列アプリケーションにおける並列性の特定とパフォーマンスボトルネックの回避に不可欠である。
• MPI、OpenMP、Pthreadsといった確立されたモデルに加え、シミュレータの使用により、実用的な並列プログラミング教育の有効な道筋が得られる。
• パフォーマンス測定およびデバッグツールは、学生が自身の並列実装を評価・改善するのを支援するために不可欠である。
• シミュレータおよび仮想化ツールは、物理的ハードウェアへのアクセスが制限される状況においても、学習を顕著に向上させることができる。