[論文レビュー] QuickSched: Task-based parallelism with dependencies and conflicts

Pedro Gonnet, Aidan B. G. Chalk+1 more|arXiv (Cornell University)|Jan 20, 2016

Parallel Computing and Optimization Techniques参考文献 3被引用数 5

ひとこと要約

QuickSched は、従来の依存関係のみに基づくタスクスケジューリングに加え、階層的でロック可能なリソースを用いて明示的なタスク競合をモデル化することで、共有リソースにアクセスするタスクを効率的かつ順序に依存しない方法でシリアル化できる、軽量でオープンソースの C ライブラリである。このライブラリは、クリティカルパスに基づくタスク優先順位付けと効率的なロックベースの競合解決、最小限のランタイム抽象化を組み合わせることで、64コアシステムにおいて高いパフォーマンスと強いスケーリング性能を達成し、スケジューラのオーバーヘッドが合計実行時間の1%未満に抑えられる。

ABSTRACT

This paper describes QuickSched, a compact and efficient Open-Source C-language library for task-based shared-memory parallel programming. QuickSched extends the standard dependency-only scheme of task-based programming with the concept of task conflicts, i.e.~sets of tasks that can be executed in any order, yet not concurrently. These conflicts are modelled using exclusively lockable hierarchical resources. The scheduler itself prioritizes tasks along the critical path of execution and is shown to perform and scale well on a 64-core parallel shared-memory machine for two example problems: A tiled QR decomposition and a task-based Barnes-Hut tree code.

研究の動機と目的

• 共有リソースへのアクセスを伴うタスクの非重複実行を保証するために、依存関係による任意の順序付けを強制する既存のタスクベースのシステムの制限に対処する。
• 人工的な順序制約なしに、共有リソース（例：リダクションや排他書き込み）にアクセスするタスクを効率的かつ順序に依存しない方法でシリアル化することを可能にする。
• コンパイル時におけるタスク依存関係と競合の明示的指定を可能にするシンプルで拡張可能な API を提供する。
• 標準 C で実装された最小限でポータブルかつ高性能なタスクスケジューラを設計し、コンパイラ拡張機能やプリプロセッサを避ける。
• クリティカルパスに基づくタスク優先順位付けと効率的なリソースロックを組み合わせることで、共有メモリ環境における低オーバーヘッドと高スケーラビリティを達成する。

提案手法

• タスク依存関係を有向無閉路グラフ（DAG）としてモデル化し、タスクをノードとし、データフロー制約をエッジとする。
• タスク競合を、同時に実行してはならないが、任意の順序で実行可能なタスクの集合として定義し、階層的リソース上の排他ロックを用いてモデル化する。
• クリティカルパス長のヒューリスティックを用いてタスクに重み付けし、データ依存の最も長い経路に沿ってタスクを優先順位付けすることで、並列性を最大化する。
• OpenMP や pthreads を用いたワークスティーリングタスクキュー方式を実装し、各スレッドがローカルキューを保持し、アイドル時に他のスレッドのキューをプローブする。
• タスク実行中にリソースロックを取得・解放することで、依存関係と競合の両方を細かく制御する。
• スケジューラの論理を軽量化し、複雑なランタイム解析や事前処理を避けることで、ランタイムオーバーヘッドを最小限に抑え、静的タスクグラフ定義に依存する。

実験結果

リサーチクエスチョン

• RQ1 依存関係を超えた明示的なタスク競合のモデル化は、共有リソースにアクセスするタスクベースのシステムにおける並列性を向上させ得るか？
• RQ2 共有メモリアーキテクチャにおいて、ロックベースの競合モデルは依存関係ベースのシリアル化と比較して、パフォーマンスとスケーラビリティにおいてどのように異なるか？
• RQ3 コンパイラ拡張機能や複雑なランタイムシステムを一切使用しない、最小限の C ベースのタスクスケジューラは、どの程度低オーバーヘッドと強いスケーリングを達成できるか？
• RQ4 クリティカルパスに基づくタスク優先順位付けは、混合されたデータ依存とリソース依存を持つ不規則なタスクグラフにおいて、負荷分散と実行効率を向上させるか？
• RQ5 メモリ階層とキャッシュコherency は、大規模な共有メモリシステムにおけるタスクスケジューリングのオーバーヘッドとパフォーマンスにどのような影響を与えるか？

主な発見

• QuickSched は、64コアシステムでさえも、すべてのコア数において1%未満のスケジューラオーバーヘッド（qsched_gettask）を達成しており、ランタイムコストが最小限であることが示された。
• 16コアから64コアにスケーリングした際、ペア間相互作用タスクのコストは最大30%増加したが、これは L2 キャッシュの共有に起因する。一方、粒子-セル相互作用のコストはわずか10%増加にとどまり、より優れたメモリ局所性が裏付けられた。
• QuickSched は64コアの共有メモリシステムにおいても良好にスケーリングし、タイル化 QR 分解と Barnes-Hut 樹形コードワークロードの両方で高いパフォーマンスを示した。
• 階層的ロックを用いた明示的な競合モデルにより、非可換タスク（例：リダクション）の正しいシリアル化が、任意の実行順序を強制せずに実現された。
• クリティカルパスに基づくタスク重み付け戦略により、データ依存の最も長い経路上のタスクを優先することで、高い並列効率が達成された。
• 標準 C と OpenMP/pthreads に基づく QuickSched の設計により、ポータビリティとシンプルさが確保され、3,000行未満のコードと最小限の抽象化レイヤーを実現した。