[論文レビュー] Gaussian Elimination with Randomized Complete Pivoting

Christopher Melgaard, Ming Gu|arXiv (Cornell University)|Nov 26, 2015

Matrix Theory and Algorithms参考文献 9被引用数 3

ひとこと要約

本稿では、完全ピボットの数値的安定性と部分ピボットの計算効率を組み合わせた、ガウス・エリミネーションとランダム化完全ピボット（GERCP）という新規アルゴリズムを提案する。ランダム化を用いて列ピボットを選択することで、GERCPは計算コストのわずかな増加で完全ピボットと同等の要素成長の上限を達成し、GEPPを上回る安定性を示しながらも、ほぼ同じ速度を維持する。

ABSTRACT

Gaussian elimination with partial pivoting (GEPP) has long been among the most widely used methods for computing the LU factorization of a given matrix. However, this method is also known to fail for matrices that induce large element growth during the factorization process. In this paper, we propose a new scheme, Gaussian elimination with randomized complete pivoting (GERCP) for the efficient and reliable LU factorization of a given matrix. GERCP satisfies GECP (Gaussian elimination with complete pivoting) style element growth bounds with high probability, yet costs only marginally higher than GEPP. Our numerical experimental results strongly suggest that GERCP is as reliable as GECP and as efficient as GEPP for computing the LU factorization.

研究の動機と目的

• 数値的に不安定になるガウス・エリミネーションと部分ピボット（GEPP）の、悪条件の行列による大きな要素成長の問題を解決すること。
• 完全ピボットの安定性を実現するが、その高い計算コストを伴わない方法を開発すること。
• ランダム化を用いて計算負荷を低減しつつ、高い確率で指数的でない要素成長を保証するピボット戦略を設計すること。
• GEPPの代替手段として実用的であり、ワイエルシュトロム行列やボルテラ行列といった病理的ケースを含む多様な行列タイプにおいても高い精度を維持する代替手法を提供すること。

提案手法

• GERCPは、各段階の消去処理において、列ピボットをランダム化して選択する。決定的完全ピボットを、安定性を保ちつつ計算コストを抑えたランダム選択に置き換える。
• 入力行列を上三角行列に上書きすることで、LU分解の構造を維持する。Lは単位対角成分をもち、Uは上三角部分に格納される。
• ピボット選択に使用するランダムサブセットのサイズを制御するパラメータ r > 0 を導入し、精度とコストのバランスをとる。
• GERCPは、高い確率で要素成長を指数的でないレベルに制限するように設計されており、理論的境界がGECPと類似している。
• アルゴリズムはFortranで実装され、標準的なテスト行列および乱数系システムを用いて安定性と性能を評価した。

実験結果

リサーチクエスチョン

• RQ1 ランダム化を用いることで、LU分解における完全ピボットの安定性を部分ピボットの効率性を保ちつつ達成できるか？
• RQ2 GEPPで深刻な要素成長を引き起こす行列に対しても、GERCPは高い確率で要素成長を指数的でないレベルに制御できるか？
• RQ3 悪条件の行列において、GERCPは後退誤差および要素成長の観点から、GEPP、GECP、およびルックピボットと比較してどのように差をつけるか？
• RQ4 サンプリングパラメータ r がGERCPの安定性および性能に与える影響は何か？
• RQ5 GERCPは、ハイパフォーマンスコンピューティング環境において、実用的で信頼性が高く、効率的な既存のLU分解手法の代替手段として機能できるか？

主な発見

• GERCPは、ワイエルシュトロム行列やボルテラ行列といった悪条件の行列において、GEPPに比べて著しく低い後退誤差を達成し、GECPとほぼ同等の水準に近い。
• 標準正規分布に従う乱数行列に対しては、GERCPはGEPPに比べて相対残差を約半分に削減し、GECPの精度に近づく。
• GERCPにおける要素成長は、常に有界であり、指数的でないレベルに保たれる。特に大きな n に対しても、平均的な成長係数はGECPとほぼ同等に保たれる。
• 計算コストはGEPPに比べわずかに高いが、依然として高いパフォーマンスを維持しており、大規模問題に適している。
• 数値実験の結果、GEPPが失敗するような指数的成長パターンを示す行列に対しても、GERCPは深刻な要素成長を効果的に防止する。
• 特に受動的・攻撃的成長を示す行列において、GERCPはルックピボット（GERP）およびGE2CPを上回り、安定性と一貫性に優れる。