[论文解读] A stable, polynomial-time algorithm for the eigenpair problem

Peter Bürgisser, Felipe Cucker|arXiv (Cornell University)|Oct 1, 2014

Matrix Theory and Algorithms参考文献 53被引用 4

一句话总结

本文提出了一种数值稳定的多项式时间算法，用于计算复矩阵的特征对，采用同伦延续方法并结合向后误差控制和强精度保证。该方法通过证明全局收敛性和复杂度界，解决了长期存在的开放问题，在高斯平滑下实现了 O(n^8) 的期望代价，同时确保特征对近似满足 'a la Smale' 性质——即在牛顿迭代下可实现二次收敛。

ABSTRACT

We describe algorithms for computing eigenpairs (eigenvalue--eigenvector) of a complex $n imes n$ matrix $A$. These algorithms are numerically stable, strongly accurate, and theoretically efficient (i.e., polynomial-time). We do not believe they outperform in practice the algorithms currently used for this computational problem. The merit of our paper is to give a positive answer to a long-standing open problem in numerical linear algebra.

研究动机与目标

• 为计算复 n×n 矩阵的特征对，提供一种数值稳定且全局收敛的算法。
• 解决数值线性代数领域长期存在的开放问题：缺乏一种全局收敛、多项式时间、可证明稳定与精确的算法。
• 在平滑分析框架下建立理论复杂度界（期望多项式时间），且独立于矩阵条件数。
• 通过返回满足 'a la Smale' 性质的特征对近似，确保强精度，使牛顿法能立即实现二次收敛。
• 提供一种理论上高效且稳定的解决方案，即使在实际应用中未必优于现有方法。

提出的方法

• 该算法采用同伦延续方法，将特征对问题从矩阵空间提升至矩阵-特征对三元组空间中的路径。
• 沿一条从良态矩阵 M 到输入矩阵 A 的路径应用提升过程，通过微分方程组追踪特征对。
• 通过类似条件数的度量 µ 控制向后误差，确保沿路径的条件数有界，从而保证数值稳定性。
• 采用平滑分析框架，结合高斯扰动，通过分布的尺度不变性来界定期望迭代次数。
• 在路径积分中引入变量替换，并应用定理 2.16，通过高斯分布中的方差控制来界定期望迭代次数。
• 最终的复杂度界通过在阈值 τ₀ 处分割路径积分，分别控制靠近 M 和远离 M 的区域，并对时间 t 进行积分推导得出。

实验结果

研究问题

• RQ1 能否构建一种数值稳定、全局收敛的算法，用于特征对问题，并具备可证明的多项式时间复杂度？
• RQ2 能否设计一种算法，返回满足 'a la Smale' 性质的特征对近似，以确保牛顿法能立即实现二次收敛？
• RQ3 能否通过平滑分析，使期望迭代次数的界独立于矩阵条件数？
• RQ4 基于同伦的方法并结合向后误差控制，能否得到一种稳定且高效的特征对问题算法？
• RQ5 能否证明该算法在高斯平滑下具有多项式期望代价，即使输入矩阵条件数较差？

主要发现

• 该算法实现了全局收敛与数值稳定性，解决了数值线性代数领域数十年来的开放问题。
• 计算单个特征对的期望迭代次数为 O(n^5)，因此所有 n 个特征对的总期望代价为 O(n^8)。
• 该算法保证强精度：计算出的特征对满足 'a la Smale' 性质，意味着在牛顿迭代下可立即实现二次收敛。
• 在方差为 σ² 的高斯扰动平滑分析下，期望迭代次数被限制在 O(n^5 / σ²) 以内，且独立于输入矩阵。
• 复杂度界通过路径积分分解推导得出，其中使用 µ 基误差界和方差估计分别控制靠近 M 和远离 M 的区域。
• 证明依赖于同伦路径中的变量替换，以及定理 2.16 的应用，以界定路径上条件数的期望值。