[論文レビュー] A low memory, highly concurrent multigrid algorithm

Mark F. Adams|arXiv (Cornell University)|Jul 28, 2012

Parallel Computing and Optimization Techniques参考文献 12被引用数 5

ひとこと要約

本論文は、セグメンタルリファイニング（SR）とτ補正を組み合わせた低メモリで高並列性のマルチグリッドアルゴリズムを提示し、細かいグリッドを保存せずにスキャンすることで、最小限の記憶領域でPDEの効率的解法を可能にしている。1回のFMGサイクルで2次精度を達成し、高い並列性とデータ再利用性を実現しており、メモリ中心の将来のアーキテクチャに最適である。

ABSTRACT

We examine what is an efficient and scalable nonlinear solver, with low work and memory complexity, for many classes of discretized partial differential equations (PDEs) - matrix-free Full multigrid (FMG) with a Full Approximation Storage (FAS) - in the context of current trends in computer architectures. Brandt proposed an extremely low memory FMG-FAS algorithm over 25 years ago that has several attractive properties for reducing costs on modern - memory centric -- machines and has not been developed to our knowledge. This method, segmental refinement (SR), has very low memory requirements because the finest grids need not be held in memory at any one time but can be "swept" through, computing coarse grid correction and any quantities of interest, allowing for orders of magnitude reduction in memory usage. This algorithm has two useful ideas for effectively exploiting future architectures: improved data locality and reuse via "vertical" processing of the multigrid algorithms and the method of $τ$-corrections, which allows for not storing the entire fine grids at any one time. This report develops this algorithm for a model problem and a parallel generalization of the original sweeping technique. We show that FMG-FAS-SR can work as originally predicted, solving systems accurately enough to maintain the convergence rate of the discretization with one FMG iteration, and that the parallel algorithm provides a natural approach to fully exploiting the available parallelism of FMG.

研究の動機と目的

• 将来のメモリ中心の高性能コンピューティングアーキテクチャに適した低メモリでスケーラブルなマルチグリッドソルバーの開発。
• エクストリームスケールコンピューティングにおけるメモリ移動コストとエネルギー消費の増大に対処し、メモリ使用量を削減するとともにデータ局所性を向上。
• ブランドトの1970年代のセグメンタルリファイニング（SR）アルゴリズムを、並列的で非同期的かつデータ駆動的なマルチグリッド手法へ一般化。
• 垂直処理とτ補正を用いて、格子離散化の精度（2次精度）を維持しながら、記憶領域とメモリ移動を最小限に抑える。
• さまざまなソルバ設定を用いた1次元モデル問題におけるアルゴリズムの実現可能性と性能の検討。

提案手法

• アルゴリズムは、細かいグリッド全体を一度に保存しないように、セグメンタルリファイニング（SR）を用い、グリッドをパッチに分割して逐次スキャンすることで処理を行う。
• τ補正を用いて、粗いグリッド上で細かいグリッドの補正を暗黙的に表現し、細かいグリッドデータを明示的に保存する必要を排除する。
• マルチグリッドサイクルの垂直処理を可能にし、各パッチごとにスムージング、制限、補間を統合することで、データ再利用性と局所性を最大化する。
• 重複する部分領域とハローセルを備えたブロックヤコビスムージングを用い、グローバル通信なしに正確な局所解を可能にする。
• アルゴリズムは非同期的でタスクベースのプログラミングモデルに自然に適合し、高い並列性と負荷不均衡への耐性を実現する。
• テスト問題として、2次精度の有限体積法による1次元ラプラシアンを用い、FMGサイクルとさまざまなスムージング設定を検証。

実験結果

リサーチクエスチョン

• RQ1 細かいグリッドを保存しないにもかかわらず、1回のFMGサイクルでセグメンタルリファイニング（SR）アルゴリズムが2次精度を維持できるか。
• RQ2 重複部分領域スムージングを用いた場合、SRに基づくマルチグリッド法の性能が標準マルチグリッド法と比べてどうなるか。
• RQ3 重複部分領域を備えたヤコビスムージングを用いることで、標準ガウス＝ザイデルスムージングと比較して収束性にどの程度の影響が出るか。
• RQ4 垂直処理により並列性とデータ再利用性を高めつつ、メモリ移動を最小限に抑えることができるか。
• RQ5 アルゴリズムはエクストリームスケールコンピューティング環境において、非同期的でデータ駆動的なプログラミングモデルに自然に適合できるか。

主な発見

• 4つのハローセルを用いたサブドメインソルバーを用いたFMG-FAS-SRアルゴリズムは、1回のFMGサイクルでも2次精度の解を維持し、理論的潜在能力を裏付ける。
• 2つのハローセルとV(1,1)サイクルを用いた場合、断層誤差の精度が低下する傾向を示し、十分なハローデータが収束順序を維持するために不可欠であることを示している。
• サブドメインソルバーに4つのハローセルを用いることで、すべてのテスト設定で優れた収束特性を示し、ロバストネスと精度の高さを実証した。
• ヤコビスムージングを用いた収束結果は、標準ガウス＝ザイデルスムージングと比較して多少洗練されていないが、依然として妥当な性能と安定性を示している。
• アルゴリズムの設計により、パッチベースの垂直処理によって高い並列性とデータ再利用性が実現され、メモリ移動が低減され、メモリ中心のアーキテクチャでも効率的な実行が可能である。
• この手法は非同期実行とタスクベースモデルを自然にサポートしており、エクストリームスケールシステムプログラミングの現代的トレンドと整合している。