[論文レビュー] On matrix balancing and eigenvector computation

Rodney James, Julien Langou+1 more|arXiv (Cornell University)|Jan 22, 2014

Matrix Theory and Algorithms参考文献 9被引用数 3

ひとこと要約

この論文では、LAPACK GEBALアルゴリズムの停止基準を修正し、バランス化のノルム計算に対角成分を組み込むことで、過剰なバランス化を防ぐ2-normを用いる新しい基準を提案する。新しい基準は後退誤差安定性を維持しながら、特に密でスケーリングが不十分な行列において、従来のバランス化が精度を低下させる場合に固有値の精度を向上させる。

ABSTRACT

Balancing a matrix is a preprocessing step while solving the nonsymmetric eigenvalue problem. Balancing a matrix reduces the norm of the matrix and hopefully this will improve the accuracy of the computation. Experiments have shown that balancing can improve the accuracy of the computed eigenval- ues. However, there exists examples where balancing increases the eigenvalue condition number (potential loss in accuracy), deteriorates eigenvector accuracy, and deteriorates the backward error of the eigenvalue decomposition. In this paper we propose a change to the stopping criteria of the LAPACK balancing al- gorithm, GEBAL. The new stopping criteria is better at determining when a matrix is nearly balanced. Our experiments show that the new algorithm is able to maintain good backward error, while improving the eigenvalue accuracy when possible. We present stability analysis, numerical experiments, and a case study to demonstrate the benefit of the new stopping criteria.

研究の動機と目的

• 標準的な行列バランス化が特定の状況で固有値・固有ベクトルの精度を低下させ、後退誤差を増大させる問題に対処すること。
• GEBALアルゴリズムの停止基準を、ノルム計算に対角成分を含めるように改善すること。
• 行列がすでにほぼバランスされている場合に過剰なバランス化が行われないよう、後退誤差を保証すること。
• 解析と実験を通じて、新しい基準が数値安定性を損なわず、固有値精度を維持または向上させることを示すこと。
• 密で悪条件な行列に対する固有値ソルバーの信頼性を向上させる実用的な修正を提供すること。

提案手法

• GEBALの停止基準を、対角成分を除くのではなく、全行・全列の2-normを用いるように変更する。
• 2-normを用いてバランス化係数 f = sqrt(r/c) を計算する。ここで r と c は、それぞれ非対角成分の行・列の2-normである。
• 全行・全列のノルムに基づくしきい値未満にまでノルムの低減が収束するまで、反復的に対角相似変換 D^{-1}AD を適用する。
• さらなる反復がバランスの改善に意味的に寄与しないことを検出することで、過剰なバランス化を防ぐ新しい収束テストを導入する。
• 後退誤差解析を用いて、新しい基準が固有値分解の後退誤差を増大させないことを示す。
• テスト行列を用いて手法を検証し、特にヘッセンベルク型行列を含む詳細な事例研究を通じて、従来のバランス化が失敗する状況を明らかにする。

実験結果

リサーチクエスチョン

• RQ1 バランス化のノルム計算に対角成分を含めることで、後退誤差安定性が向上するか？
• RQ2 修正された停止基準は、過剰なバランス化を防ぎ、固有値計算における数値精度を保持できるか？
• RQ3 新しいアルゴリズムは、元のGEBALと比較して固有値・固有ベクトルの精度においてどのように異なるか？
• RQ4 どのような状況で新しい基準が固有値条件数の悪化を防ぐか？
• RQ5 2-normに基づくバランス化基準は、スケーリングが不十分な行列に対して、現在のノルムを無視するアプローチよりもより頑健か？

主な発見

• 新しい停止基準は、ノルム計算に対角成分を含めることで、後退誤差の悪化リスクを低減し、過剰なバランス化を防止する。
• 数値実験の結果、元のGEBALが失敗する状況においても、修正されたアルゴリズムは良好な後退誤差を維持しながら固有値精度を向上させる。
• εが小さいケーススタディの行列において、新しいアルゴリズムは固有値条件数を増大させないのに対し、元のGEBALは増大させる。
• 2-normに基づくバランス化は、ヘッセンベルク行列のバランス化が精度を低下させるのを防ぎ、元のアルゴリズムの既知の失敗事例を回避する。
• 行列がスケーリングが不十分な場合、特に正確な固有ベクトルが不要な場合に、新しい手法は固有値精度を向上させる。
• 後退誤差解析により、ノルム低減が小さくても、新しい基準が固有値分解の後退誤差を増大させないことが確認された。