[论文解读] Iterative Methods for Computing Eigenvalues and Eigenvectors

Maysum Panju|arXiv (Cornell University)|May 5, 2011

Matrix Theory and Algorithms参考文献 3被引用 55

一句话总结

本文综述了五种迭代数值方法——幂迭代、位移逆迭代、瑞利商、同时迭代和QR迭代——用于计算实矩阵的特征值和特征向量。结果表明，QR迭代方法收敛于一个对角矩阵，其对角线元素为特征值，列向量为对应的特征向量，为具有实特征值的对称矩阵提供了一种鲁棒且收敛的算法。

ABSTRACT

We examine some numerical iterative methods for computing the eigenvalues and eigenvectors of real matrices. The five methods examined here range from the simple power iteration method to the more complicated QR iteration method. The derivations, procedure, and advantages of each method are briefly discussed.

研究动机与目标

• 提供对计算实矩阵特征值和特征向量的迭代数值方法的全面概述。
• 分析关键迭代算法的收敛行为和计算效率。
• 解释QR迭代方法如何推广更简单的迭代技术，并实现对特征值和特征向量的收敛。
• 强调这些方法的理论基础和实际局限性，特别是针对对称矩阵。
• 讨论算法改进措施，如将矩阵约化为三对角形式以及使用位移以提高性能。

提出的方法

• 幂迭代方法通过使用随机初始向量重复进行矩阵-向量乘法，计算主导特征值及其对应的特征向量。
• 位移逆迭代方法通过在逆迭代中应用靠近目标特征值的位移，加快收敛速度，实现对特定特征值-特征向量对的快速收敛。
• 瑞利商方法将瑞利商用作逆迭代中的位移，在对称矩阵中实现三次收敛。
• 同时迭代方法通过将幂迭代应用于向量矩阵，一次计算多个特征对，收敛于一组特征向量基。
• QR迭代方法通过迭代应用QR分解：A^(k) = Q^(k) R^(k)，然后令A^(k+1) = R^(k) Q^(k)，形成一个收敛于对角矩阵的序列。
• QR方法的收敛性通过数学归纳法证明，表明A^(k)收敛于对角线上为特征值的对角矩阵，且Q^(k)收敛于一组标准正交特征向量矩阵。

实验结果

研究问题

• RQ1 幂迭代和QR迭代等迭代方法如何收敛于特征值和特征向量？
• RQ2 在何种条件下，QR迭代方法能保证收敛于对称矩阵的特征值和特征向量？
• RQ3 位移和瑞利商如何提升逆迭代方法的收敛速度？
• RQ4 为何QR方法在收敛行为上被认为等价于同时迭代方法？
• RQ5 在实际应用中，哪些实用改进措施（如将矩阵约化为三对角形式）可显著提升QR迭代的效率？

主要发现

• QR迭代方法收敛于一个对角矩阵，其对角线元素为原矩阵A的特征值。
• QR迭代中正交矩阵Q^(k)的列向量收敛于A的正交特征向量。
• 对于具有实特征值的对称矩阵，QR迭代方法可保证收敛于正确的特征值和特征向量。
• QR方法的收敛性与同时迭代方法等价，因为两者产生相同的矩阵序列A^(k)、Q^(k)和R^(k)。
• 对角线元素A^(k)_ii收敛于λ_i（第i个特征值），而当i ≠ j时，非对角线元素A^(k)_ij → 0，证实了矩阵的对角化。
• 实际实现中采用将矩阵约化为三对角形式和位移策略，可显著加速基本QR算法的收敛速度。