[論文レビュー] Accelerating sequential programs using FastFlow and self-offloading

Marco Aldinucci, Marco Danelutto+3 more|arXiv (Cornell University)|Feb 25, 2010

Parallel Computing and Optimization Techniques参考文献 16被引用数 7

ひとこと要約

この論文では、ロックフリーでフェンスフリーの同期を用いて、使用されていないCPUコアに順次C++コードをシームレスかつ半自動的にオフロードできるソフトウェアベースの並列化手法であるFastFlowアクセラレータを紹介する。FastFlowのスケルトンベースプログラミングモデルを活用することで、最小限のコード変更で既存アプリケーションを高速化でき、細粒度タスクにおいても正しくかつ高いパフォーマンスを発揮する。

ABSTRACT

FastFlow is a programming environment specifically targeting cache-coherent shared-memory multi-cores. FastFlow is implemented as a stack of C++ template libraries built on top of lock-free (fence-free) synchronization mechanisms. In this paper we present a further evolution of FastFlow enabling programmers to offload part of their workload on a dynamically created software accelerator running on unused CPUs. The offloaded function can be easily derived from pre-existing sequential code. We emphasize in particular the effective trade-off between human productivity and execution efficiency of the approach.

研究の動機と目的

• 現代のマルチコアシステム上で、最小限のプログラマーの作業で既存の順次的C++アプリケーションを効率的に並列化する課題に対処すること。
• 軽量でロックフリーの同期メカニズムを用いて、共有メモリ型マルチコア上で細粒度タスクを高パフォーマンスで実行すること。
• 完全なアーキテクチャ再設計なしで、レガシーコードを半自動的かつ生産性を保ったまま高速化する手法を提供すること。
• ハードウェアアクセラレータと同等のパフォーマンスをソフトウェアベースの自己オフロードで達成できることを示し、レガシーコードへの応用範囲を広げること。
• FastFlowスケルトンフレームワークを拡張することで、マルチコアプログラミングにおける高水準の生産性と低水準のパフォーマンスのギャップを埋めること。

提案手法

• FastFlowアクセラレータは、ロックフリーでフェンスフリーの同期プリミティブに基づいたC++テンプレートライブラリスタックを用いて、スレッドセーフで高パフォーマンスなタスクオフロードを可能にする。
• 未使用のCPUコアに動的に追加スレッドを生成することで、既存の順次プログラムからのオフロードコードカーネルの実行を可能にする自己オフロードを実現する。
• このアプローチは、再利用可能なパターン（例：パイプライン、ファーム）に並列的意味論をカプセル化することで正しさを保証するFastFlowのスケルトンベースプログラミングモデルを活用する。
• 既存コードへの最小限の変更で、細粒度および粗粒度並列化をサポートするために、順次関数をオフローダブルユニットにラップする。
• タスク配分と同期を管理するためにFastFlowフレームワークと統合し、ロックを回避してオーバーヘッドを最小限に抑える。
• x86およびPowerアーキテクチャを含む、キャッシュ一貫性を持つメモリ一貫性を有する標準的なマルチコアアーキテクチャをサポートする。

実験結果

リサーチクエスチョン

• RQ1 既存の順次的C++アプリケーションは、最小限のコード変更でマルチコアシステム上で効率的に高速化可能か？
• RQ2 ロックフリー同期を用いたソフトウェアベースの自己オフロードアプローチは、細粒度タスクの高速化にどの程度効果的か？
• RQ3 高いパフォーマンスを達成する中で、FastFlowアクセラレータはプログラマーの生産性をどの程度保っているか？
• RQ4 自己オフロードのパフォーマンスは、OpenMP や TBB といった従来の並列プログラミングモデルと比較して、レガシーコードに対してどの程度優れているか？
• RQ5 任意の順次コードを未使用CPUコアにオフロードする際、スケルトンベースのアプローチが正しさとスケーラビリティを保証できるか？

主な発見

• FastFlowアクセラレータは、最小限のコード修正で既存C++アプリケーションに顕著なパフォーマンス向上をもたらし、実世界のコードへの実用的応用を示している。
• ロックフリーでフェンスフリーの同期メカニズムにより、細粒度タスクの効率的実行が可能になり、並列化の適用範囲がレガシーコードにまで広がった。
• マンデルブロ集合とNクイーンソルバの実験により、代表的かつ計算集約的なワークロードにおいて測定可能なパフォーマンス向上が確認され、アプローチの有効性が裏付けられた。
• 既存コードベースへのシームレスな統合が可能で、完全な再アーキテクチャやフレームワーク移行の必要がなかった。
• 同期オーバーヘッドが低いため、細粒度並列化を要するシナリオでは、OpenMP や TBB といった従来モデルを上回る性能を発揮した。
• スケルトンベースの構成により正しさが維持され、予測可能で検証可能な並列的意味論が保証された。