[论文解读] On matrix balancing and eigenvector computation

Rodney James, Julien Langou+1 more|arXiv (Cornell University)|Jan 22, 2014

Matrix Theory and Algorithms参考文献 9被引用 3

一句话总结

本文提出了一种对 LAPACK GEBAL 算法的停止准则进行修改的方法，该方法在平衡范数计算中引入了对角线元素，并使用 2-范数以防止过度平衡。新准则在保持向后误差稳定性的同时，提升了传统平衡方法会降低精度的场景下的特征值精度，特别是在密集且条件不佳的矩阵中。

ABSTRACT

Balancing a matrix is a preprocessing step while solving the nonsymmetric eigenvalue problem. Balancing a matrix reduces the norm of the matrix and hopefully this will improve the accuracy of the computation. Experiments have shown that balancing can improve the accuracy of the computed eigenval- ues. However, there exists examples where balancing increases the eigenvalue condition number (potential loss in accuracy), deteriorates eigenvector accuracy, and deteriorates the backward error of the eigenvalue decomposition. In this paper we propose a change to the stopping criteria of the LAPACK balancing al- gorithm, GEBAL. The new stopping criteria is better at determining when a matrix is nearly balanced. Our experiments show that the new algorithm is able to maintain good backward error, while improving the eigenvalue accuracy when possible. We present stability analysis, numerical experiments, and a case study to demonstrate the benefit of the new stopping criteria.

研究动机与目标

• 解决标准矩阵平衡在某些情况下会降低特征值和特征向量精度并增加向后误差的问题。
• 通过在范数计算中包含对角线元素，改进 LAPACK GEBAL 算法的停止准则。
• 确保当矩阵已接近平衡时，不会过度应用平衡操作，从而保持向后误差稳定性。
• 通过分析与实验表明，新准则在不降低数值稳定性的情况下，维持或提升特征值精度。
• 提供一种实用的改进方案，以增强稠密、病态矩阵特征值求解器的可靠性。

提出的方法

• 修改 GEBAL 停止准则，使用包含对角线元素的整个行与列的 2-范数，而非排除对角线元素。
• 使用 2-范数计算平衡因子 f = sqrt(r/c)，其中 r 和 c 分别为非对角线行与列的 2-范数。
• 通过迭代应用对角相似变换 D^{-1}AD，直到基于完整行与列范数的范数减少量低于阈值。
• 引入新的收敛检测方法，通过检测进一步迭代是否不会显著改善平衡性，从而防止过度平衡。
• 利用向后误差分析证明，新准则可避免增加特征值分解的向后误差。
• 在测试矩阵上验证该方法，包括对一个类似 Hessenberg 矩阵的详细案例研究，该案例中传统平衡方法会失效。

实验结果

研究问题

• RQ1 在平衡范数中包含对角线元素是否能提升向后误差稳定性？
• RQ2 修改后的停止准则是否能防止过度平衡并保持特征值计算的数值精度？
• RQ3 新算法与原始 GEBAL 相比，在特征值和特征向量精度方面表现如何？
• RQ4 在何种情况下新准则可防止特征值条件数的恶化？
• RQ5 对于严重失衡的矩阵，基于 2-范数的平衡准则是否比当前忽略范数的方法更具鲁棒性？

主要发现

• 新停止准则通过在范数计算中包含对角线元素，防止了过度平衡，降低了向后误差恶化的风险。
• 数值实验表明，修改后的算法在原始 GEBAL 失效的情况下，既能保持良好的向后误差，又能提升特征值精度。
• 对于小 ε 的案例研究矩阵，新算法避免了特征值条件数的增加，而原始 GEBAL 则未能做到这一点。
• 基于 2-范数的平衡方法可防止对 Hessenberg 矩阵的错误平衡，从而避免精度下降，这正是原始算法已知的失败案例。
• 当矩阵严重失衡时，新方法在无需高精度特征向量的情况下，显著提升了特征值精度。
• 向后误差分析确认，即使范数减少量很小，新准则也能避免增加特征值分解的向后误差。