[论文解读] Principal angles between subspaces and their tangents

Peizhen Zhu, Andrew Knyazev|arXiv (Cornell University)|Sep 4, 2012

Matrix Theory and Algorithms被引用 25

一句话总结

本文提出了一种基于矩阵的创新构造方法，通过奇异值分解（SVD）显式计算子空间之间主角的正切值，利用标准正交基与非标准正交基以及投影算子。核心贡献是一个系统化的框架，可直接计算正切值，应用于分析求解特征值问题的子空间迭代方法的收敛性。

ABSTRACT

Principal angles between subspaces (PABS) (also called canonical angles) serve as a classical tool in mathematics, statistics, and applications, e.g., data mining. Traditionally, PABS are introduced via their cosines. The cosines and sines of PABS are commonly defined using the singular value decomposition. We utilize the same idea for the tangents, i.e., explicitly construct matrices, such that their singular values are equal to the tangents of PABS, using several approaches: orthonormal and non-orthonormal bases for subspaces, as well as projectors. Such a construction has applications, e.g., in analysis of convergence of subspace iterations for eigenvalue problems.

研究动机与目标

• 开发一种显式计算子空间之间主角正切值的方法，这些主角传统上是通过余弦值定义的。
• 将经典的基于SVD的主角框架扩展至包含正切值，从而在数值线性代数中提供新的分析工具。
• 提出一种统一的构造方法，利用标准正交基与非标准正交基以及投影矩阵，用于正切值的计算。
• 支持求解特征值问题的子空间迭代算法中的收敛性分析。
• 为未来在数据挖掘、统计学以及涉及子空间几何的数值方法中的应用奠定基础。

提出的方法

• 从子空间的标准正交基构造矩阵，使得其奇异值恰好等于子空间之间主角的正切值。
• 通过推导保持正切值不变的变换，将该构造推广至非标准正交基。
• 通过构造投影矩阵到子空间上，形成等价的矩阵形式，确保奇异值对应于正切值。
• 利用构造矩阵的SVD，直接提取主角的正切值。
• 证明在不同基表示和投影器形式下，正切值计算的一致性与不变性。
• 为矩阵构造在捕捉子空间之间几何关系方面的有效性提供理论依据。

实验结果

研究问题

• RQ1 如何通过矩阵SVD显式构造子空间之间主角的正切值？
• RQ2 在使用标准正交基或非标准正交基时，哪些适当的矩阵形式可使奇异值等于主角的正切值？
• RQ3 能否使用投影矩阵构造奇异值对应于主角正切值的矩阵？
• RQ4 所提出的构造如何支持子空间迭代方法中的收敛性分析？
• RQ5 正切值计算在不同基表示下表现出何种不变性性质？

主要发现

• 本文成功构造了基于标准正交基的矩阵，其奇异值恰好等于子空间之间主角的正切值。
• 该构造已推广至非标准正交基，通过适当的矩阵变换保持了奇异值与正切值之间的对应关系。
• 等价地，可使用投影矩阵到子空间上构造矩阵，其奇异值可给出主角的正切值。
• 所提出的框架可直接计算正切值，无需依赖余弦值推导，从而开辟了新的分析路径。
• 该方法为分析特征值问题子空间迭代算法的收敛速率提供了理论基础。
• 该方法在不同基选择下保持不变，确保了几何计算中的鲁棒性与一致性。