[論文レビュー] A stable, polynomial-time algorithm for the eigenpair problem

Peter Bürgisser, Felipe Cucker|arXiv (Cornell University)|Oct 1, 2014

Matrix Theory and Algorithms参考文献 53被引用数 4

ひとこと要約

本稿では、後退誤差制御と強い精度保証を備えたホモトピー続行法を用いて、複素行列の固有ペアを数値的に安定して、多項式時間で計算するアルゴリズムを提示する。長年の未解決問題を解消し、グローバル収束性と複雑性の上限を証明し、ガウススムージング下で期待される計算コストがO(n^8)に抑えられるとともに、固有ペア近似が「スメール風」であることを保証する。これはニュートン法における2次収束が即座に達成可能であることを意味する。

ABSTRACT

We describe algorithms for computing eigenpairs (eigenvalue--eigenvector) of a complex $n imes n$ matrix $A$. These algorithms are numerically stable, strongly accurate, and theoretically efficient (i.e., polynomial-time). We do not believe they outperform in practice the algorithms currently used for this computational problem. The merit of our paper is to give a positive answer to a long-standing open problem in numerical linear algebra.

研究の動機と目的

• 複素n×n行列の固有ペアを数値的に安定して、グローバルに収束するアルゴリズムを提供すること。
• 数値線形代数分野における長年の未解決問題である、グローバル収束性・多項式時間性・証明可能な安定性・精度を併せ持つアルゴリズムの欠如を解消すること。
• 行列の条件数に依存しない、滑らかさ解析（smoothed analysis）に基づく理論的複雑性上限（期待多項式時間）を確立すること。
• 固有ペア近似を「スメール風」に保証することで、強い精度を確保すること。これにより、ニュートン法における即時の2次収束が可能になる。
• 実用的性能が既存手法を上回らない可能性があるものの、理論的には効率的かつ安定であると証明可能な理論的ソリューションを提供すること。

提案手法

• アルゴリズムは、固有ペア問題を行列空間から行列-固有ペア三重の空間へのパスに引き上げるホモトピー続行法を用いる。
• 良好に条件付けられた行列Mから入力行列Aへのパスに沿ってリフト処理を行い、微分方程式系を用いて固有ペアを追跡する。
• 条件数に類似した測度µを用いて後退誤差を制御し、パスに沿った有界な条件数によって数値的安定性を確保する。
• ガウスノイズによる滑らかさ解析フレームワークを採用し、スケール不変性を活用して反復回数の期待値を上限付ける。
• パス積分における変数変換を実施し、ガウス分布における分散制御を応用して、定理2.16を適用して反復回数の期待値を上限付ける。
• 最終的な複雑性上限は、パス積分を閾値τ₀で分割し、Mに近い領域と遠い領域を別々に上限付けることで得られ、時間tにわたる積分として表される。

実験結果

リサーチクエスチョン

• RQ1 証明可能な多項式時間複雑性を備えた、数値的に安定でグローバルに収束するアルゴリズムを、固有ペア問題に対して構築可能か？
• RQ2 固有ペア近似を「スメール風」に返すアルゴリズムを設計可能か？これによりニュートン法における即時の2次収束が保証されるか？
• RQ3 滑らかさ解析を用いて、行列の条件数に依存しない反復回数の期待値を上限付けることは可能か？
• RQ4 後退誤差制御を備えたホモトピーに基づくアプローチが、固有ペア問題に対して安定的かつ効率的なアルゴリズムをもたらすか？
• RQ5 入力行列が悪条件であっても、ガウススムージング下で期待される計算コストが多項式的であることを証明可能か？

主な発見

• アルゴリズムはグローバル収束性と数値的安定性を達成し、数十年にわたる数値線形代数分野の未解決問題を解決した。
• 1つの固有ペアを計算するための期待反復回数はO(n^5)であり、すべてのn個の固有ペアを計算する全体の期待コストはO(n^8)に抑えられる。
• アルゴリズムは強い精度を保証する：計算された固有ペア近似は「スメール風」であり、ニュートン法における即時の2次収束を可能にする。
• 分散σ²のガウススムージングを用いた滑らかさ解析において、期待反復回数はO(n^5 / σ²)に抑えられ、入力行列に依存しない。
• 複雑性上限はパス積分の分解を用いて導出され、µに基づく誤差上限と分散推定値を用いて、Mに近い領域と遠い領域を別々に制御する。
• 証明はホモトピー経路における変数変換と定理2.16の適用に依拠し、経路に沿った条件数の期待値を上限付ける。