[論文レビュー] PAMPAC: A Parallel Adaptive Method for Pseudo-Arclength Continuation

D. A. Aruliah, Lennaert van Veen+1 more|arXiv (Cornell University)|Dec 12, 2013

Parallel Computing and Optimization Techniques参考文献 14被引用数 3

ひとこと要約

PAMPAC は、異なるステップサイズを用いた複数の予測-修正シーケンスを並列に計算することで、高次元非線形系における収束を加速する並列的で適応型の疑似弧長続行法である。中間の修正反復結果を再利用して新たな予測を開始し、余分な計算を活用することで、39CPUクラスタ上での実行で最大3倍の高速化を達成し、高価なニュートン＝クリルブ・ソルブにおける失敗した修正ステップに費やされる時間を顕著に削減した。

ABSTRACT

Pseudo-arclength continuation is a well-established method for generating a numerical curve approximating the solution of an underdetermined system of nonlinear equations. It is an inherently sequential predictor-corrector method in which new approximate solutions are extrapolated from previously converged results and then iteratively refined. Convergence of the iterative corrections is guaranteed only for sufficiently small prediction steps. In high-dimensional systems, corrector steps are extremely costly to compute and the prediction step-length must be adapted carefully to avoid failed steps or unnecessarily slow progress. We describe a parallel method for adapting the step-length employing several predictor-corrector sequences of different step lengths computed concurrently. In addition, the algorithm permits intermediate results of unconverged correction sequences to seed new predictions. This strategy results in an aggressive optimization of the step length at the cost of redundancy in the concurrent computation. We present two examples of convoluted solution curves of high-dimensional systems showing that speed-up by a factor of two can be attained on a multi-core CPU while a factor of three is attainable on a small cluster.

研究の動機と目的

• 高次元系におけるコストが高く、失敗する修正反復が生じる疑似弧長続行法の性能ボトルネックを解消すること。
• 非収束予測ステップに費やされる無駄な計算を最小限に抑えることで、数値続行におけるウォルク・タイムを短縮すること。
• 異なるステップサイズを併用する複数の予測-修正シーケンスを同時に計算することで、積極的なステップサイズ適応を可能とすること。
• 中間の未収束修正反復結果を新たな予測の出発点として活用することで、収束を待たずに効率を向上させること。
• 高価な線形ソルブを伴う実世界のPDEベース続行問題において、実用的な高速化を示すこと。

提案手法

• アルゴリズムは、木構造を用いて並列計算を管理するアプローチにより、異なるステップサイズを用いた複数の予測-修正シーケンスを同時に計算する。
• 再帰的戦略を採用し、あるシーケンスの途中で未収束した修正反復結果を、他のシーケンスの新たな予測ステップの出発点として利用する。
• ステップサイズの適応は収束行動に基づく：成功したシーケンスは将来のステップサイズ選択を指針とし、失敗したシーケンスはステップサイズの縮小を引き起こす。
• 各修正反復が計算的に高価（例：GMRESを用いたニュートン＝クリルブ・ソルブ）であり、通信コストが無視できるほど小さいシステムを想定している。
• 曲線追跡の安定性を保つために疑似弧長パrameterization を採用し、予測ステップが解の多様体に近い位置に保たれることを保証する。
• MPI を用いたプロセス間通信をサポートするソフトウェアライブラリ（PAMPAC）として実装されており、マルチコアCPUおよび小規模クラスタを対象としている。

実験結果

リサーチクエスチョン

• RQ1 異なるステップサイズを用いた複数の予測-修正シーケンスを並列に実行することで、高次元系における疑似弧長続行のウォルク・タイムを短縮できるか？
• RQ2 未収束のままの中間修正反復結果をどれだけ再利用できるか、収束を早め、重複計算を回避できるか？
• RQ3 実際のPDEベース続行問題において、並列的適応手法の性能はプロセッサ数の増加に伴いどのようにスケーリングするか？
• RQ4 ニュートン＝クリルブ・ソルブにGMRESを用いるような高価な修正ステップを伴うシステムにPAMPACを適用した場合、ウォルク・タイムの達成可能な高速化はどの程度か？
• RQ5 曲率が著しく変動する解曲線において、最適なステップサイズが大きく変化する状況でも、この手法は頑健で安定性を保っているか？

主な発見

• PAMPAC は、高価なニュートン＝クリルブ修正ステップを伴う高対称性流れ問題を解く際、39CPUクラスタ上で最大3倍の高速化を達成した。
• 3CPUでの実行でも最大2倍の高速化が達成され、小規模並列環境でも有効であることが示された。
• 中間反復結果の再利用と並列での複数ステップサイズの探索により、失敗した修正ステップに費やされる時間が削減され、逐次的な拒否サイクルを回避した。
• ナーブなステップサイズ制御を用いたシリアス実装では、55ステップ中15ステップ（27％）が拒否された（無駄な時間）が、PAMPACは能動的な適応によりこれを顕著に低減した。
• 修正反復が通信コストに対して著しく高価であり、かつ解曲線に顕著な曲率変動が見られる場合に、アルゴリズムの性能は最も顕著に現れた。
• 動的ステップサイズ適応を組み合わせた木構造並列化戦略は、さまざまな設定において頑健でスケーラブルであり、木の幅が深さよりも性能に大きな影響を与えた。