[論文レビュー] Parallelizing Bisection Root-Finding: A Case for Accelerating Serial Algorithms in Multicore Substrates

Mohammad Bakhshalipour, Hamid Sarbazi‐Azad|arXiv (Cornell University)|May 11, 2018

Parallel Computing and Optimization Techniques参考文献 43被引用数 3

ひとこと要約

この論文では、マルチコアおよびGPUアーキテクチャにおけるアイドルスレッドを活用して、主スレッドの実行を事前に予測的に実行することで、必然的に逐次的なアルゴリズム（例：二分探索による根の探索）の実行を高速化するソフトウェアオンリー技術「ランアヘッドコンピューティング」を提案する。この手法は、関数計算のオーバーヘッドを上回る入力関数の計算時間がかかる場合に、予測的前処理によって実行遅延を低減し、CPUおよびGPUプラットフォームで最大9倍の高速化を達成する。

ABSTRACT

Multicore architectures dominate today's processor market. Even though the number of cores and threads are pretty high and continues to grow, inherently serial algorithms do not benefit from the abundance of cores and threads. In this paper, we propose Runahead Computing, a technique which uses idle threads in a multi-threaded architecture for accelerating the execution time of serial algorithms. Through detailed evaluations targeting both CPU and GPU platforms and a specific serial algorithm, our approach reduces the execution latency up to 9x in our experiments.

研究の動機と目的

• マルチコアおよびマニーコアシステムにおいて、利用可能なアイドルスレッドが多数存在するにもかかわらず、1コアしか使用されない必然的に逐次的なアルゴリズムの性能ボトルネックを解消すること。
• ハードウェア変更を要せず、アイドルスレッドを活用して単一スレッドワークロードを高速化するソフトウェアベースの技術を検討すること。
• 二分探索による根の探索を事例として、ランアヘッドコンピューティングのCPUおよびGPUプラットフォームにおける有効性を評価すること。
• 異なるアーキテクチャにおいて、入力関数の遅延とスレッド作成オーバーヘッドにどのように影響を受けるかを分析すること。

提案手法

• ランアヘッドコンピューティングは、アイドルスレッドを用いて主スレッドの実行を事前に予測的に実行し、同じ計算ポイントに達した際に主スレッドの実行時間を短縮することを目的としている。
• この技術では、複数のスレッドを生成して並列に値を計算し、主スレッドが後から事前に計算された結果を使用することで、重複する計算を回避する。
• 二分探索による根の探索では、探索区間を分割し、アイドルスレッドを用いて事前に中間点での関数値を計算する。
• このアプローチは、ハードウェア変更を回避するソフトウェアレベルのスレッド生成と同期に依存しており、商用市販プロセッサでも展開可能である。
• 実行時間の短縮率を、スレッド数と入力関数の遅延を変化させながら測定することで、パフォーマンスを評価する。
• この手法は、スレッド作成および同期のオーバーヘッドが異なるCPU（CMP）およびGPUプラットフォームに適用され、スケーラビリティに影響を与える。

実験結果

リサーチクエスチョン

• RQ1 マルチコアおよびマニーコアシステムにおけるアイドルスレッドを、ハードウェア変更なしに必然的に逐次的なアルゴリズムの高速化に効果的に活用できるか？
• RQ2 ランアヘッドコンピューティングのパフォーマンスは、CPUおよびGPUプラットフォームでスレッド数が増加するにつれてどのようにスケーリングするか？
• RQ3 入力関数の計算遅延が、ランアヘッドコンピューティングの有効性に与える影響は何か？
• RQ4 スレッド作成および同期のオーバーヘッドは、特にCPUとGPU環境において、高速化にどのように影響を与えるか？

主な発見

• GPUプラットフォームでは、1023個のスレッドを使用した場合、実行時間の短縮が最大9倍に達し、スレッド作成オーバーヘッドが低いため、ほぼ完璧なスケーリングを示した。
• CPUでは、7つのスレッドを使用した場合、ベースラインの38％まで実行遅延を低減し、スレッド管理のオーバーヘッドが高いためにもかかわらず、強力なスケーラビリティを示した。
• 入力関数の計算遅延が短い場合（例：テイラー級数を10回繰り返す）、CPUではスレッド作成オーバーヘッドのため、最大86％のパフォーマンス劣化が生じたが、遅延が10,000回以上になると97％のパフォーマンス向上を達成した。
• GPUでは、関数遅延が最小限（10回）であっても、19％のパフォーマンス向上を達成し、500回以上の反復では理想の高速化の99％に達した。これは、同期コストが低いためである。
• この手法により、CPUではスレッド作成および同期のオーバーヘッドがスケーリングの制限要因であることが判明したのに対し、GPUの細粒度マルチスレーディングにより、ほぼ理想に近いスケーリングが可能であることが示された。
• 結果から、入力関数の計算コストがスレッド管理コストを上回る場合にランアヘッドコンピューティングが最も効果的であることが確認され、計算集約的な逐次ワークロードに適していることが示された。