[論文レビュー] Residual, restarting and Richardson iteration for the matrix exponential, revised

Mike A. Botchev|arXiv (Cornell University)|Dec 23, 2011

Matrix Theory and Algorithms参考文献 38被引用数 3

ひとこと要約

本論文は、行列指数関数を常微分方程式（ODE）系の初期値問題（IVP）として解釈することにより、行列指数関数に基づく新しい残差概念を提案する。近似解がODE系をどれだけ違反しているかとして残差を定義することで、Krylov部分空間法およびチェビシェフ法における信頼性の高い計算可能な停止基準を可能にし、新たな残差に基づく反復解法の開発にもつながる。特に、Krylov-Richardson法の再起動版を提案し、収束効率を向上させる。

ABSTRACT

A well-known problem in computing some matrix functions iteratively is the lack of a clear, commonly accepted residual notion. An important matrix function for which this is the case is the matrix exponential. Suppose the matrix exponential of a given matrix times a given vector has to be computed. We develop the approach of Druskin, Greenbaum and Knizhnerman (1998) and interpret the sought-after vector as the value of a vector function satisfying the linear system of ordinary differential equations (ODE) whose coefficients form the given matrix. The residual is then defined with respect to the initial-value problem for this ODE system. The residual introduced in this way can be seen as a backward error. We show how the residual can be computed efficiently within several iterative methods for the matrix exponential. This completely resolves the question of reliable stopping criteria for these methods. Further, we show that the residual concept can be used to construct new residual-based iterative methods. In particular, a variant of the Richardson method for the new residual appears to provide an efficient way to restart Krylov subspace methods for evaluating the matrix exponential.

研究の動機と目的

• 行列指数関数の反復的計算において、長年にわたり存在していた信頼性の高い残差の概念の欠如に取り組むこと。
• ODEの解釈に基づき、行列指数関数の近似解に対して計算可能で意味のある後退誤差測度を提供すること。
• Krylov部分空間法および多項式反復法における行列指数関数の計算において、堅牢で効率的な停止基準を実現すること。
• Krylov法の再起動版を含む、新たな残差に基づく反復アルゴリズムの開発。
• 行列余弦関数や正弦関数などの他の行列関数に対しても、残差フレームワークを拡張すること。

提案手法

• 行列指数関数を初期値問題（IVP）として定義する：y'(t) = -Ay(t), y(0) = v、正確な解はy(t) = exp(-tA)v。
• 近似解y_k(t)に対して、残差r_k(t) = -A y_k(t) - y_k'(t)を定義し、ODE系の違反度を測定する。
• 残差ノルムを反復法の停止基準として用い、後退安定性を保証するとともに、収束の信頼性ある監視を可能にする。
• Krylov部分空間法と組み合わせて効率的に再起動できる、残差に基づくリチャードソン反復を提案する。
• Krylov部分空間法（例：アーノルド法／ランチョス法）およびチェビシェフ多項式法にこの残差概念を適用し、効率的な残差計算を示す。
• 2階ODEを特定し、対応する残差を定義することで、行列余弦関数や正弦関数に対してもフレームワークを拡張する。

実験結果

リサーチクエスチョン

• RQ1 反復法で行列指数関数を解く際、信頼性があり計算可能な残差をどのように定義できるか？
• RQ2 残差概念を用いて、行列指数関数のための新たな反復解法を構築できるか？
• RQ3 残差に基づく停止基準は、Krylov部分空間法の堅牢性と効率性をどのように向上させるか？
• RQ4 残差に基づくリチャードソン法は、Krylov法の有効な前処理または再起動戦略として機能できるか？
• RQ5 残差フレームワークは、余弦関数や正弦関数などの他の行列関数へどの程度一般化可能か？

主な発見

• ODE系の残差として定義された本手法の残差は、後退誤差として機能し、反復的行列指数関数解法における信頼性の高い停止基準を可能にする。
• Krylov部分空間法およびチェビシェフ多項式法内での残差は、効率的に計算可能であり、収束のリアルタイム監視が可能になる。
• Krylov法と組み合わせて効率的かつ効果的な再起動を可能にする、新たな残差に基づくリチャードソン反復を提案する。
• 数値実験の結果、SaI戦略を用いたKrylov-Richardson法は、標準的手法よりも収束が速く、特に初期ベクトルvが境界条件を満たす場合に顕著に向上する。
• 初期ベクトルvが関連する偏微分方程式（PDE）の境界条件と整合性を持つ場合、収束速度が著しく向上することが、3次元拡散問題の例で示された。
• 行列余弦関数や正弦関数に対しても、その支配的となる2階ODEを特定し、それに応じて残差を定義することで、残差フレームワークを拡張可能である。