[论文解读] Symmetric tensor decomposition

Jérôme Brachat, Pierre Comon+2 more|arXiv (Cornell University)|Jan 23, 2009

Tensor decomposition and applications参考文献 38被引用 8

一句话总结

本文提出了一种新颖的对称张量分解算法，通过齐次多项式与汉克尔算子之间的对偶性，实现通过广义特征值问题的精确计算，从而获得秩-1分解。该方法确保全局收敛性，并能处理次通用秩，克服了ALS等迭代方法的局限性。

ABSTRACT

We present an algorithm for decomposing a symmetric tensor, of dimension n and order d as a sum of rank-1 symmetric tensors, extending the algorithm of Sylvester devised in 1886 for binary forms. We recall the correspondence between the decomposition of a homogeneous polynomial in n variables of total degree d as a sum of powers of linear forms (Waring's problem), incidence properties on secant varieties of the Veronese Variety and the representation of linear forms as a linear combination of evaluations at distinct points. Then we reformulate Sylvester's approach from the dual point of view. Exploiting this duality, we propose necessary and sufficient conditions for the existence of such a decomposition of a given rank, using the properties of Hankel (and quasi-Hankel) matrices, derived from multivariate polynomials and normal form computations. This leads to the resolution of polynomial equations of small degree in non-generic cases. We propose a new algorithm for symmetric tensor decomposition, based on this characterization and on linear algebra computations with these Hankel matrices. The impact of this contribution is two-fold. First it permits an efficient computation of the decomposition of any tensor of sub-generic rank, as opposed to widely used iterative algorithms with unproved global convergence (e.g. Alternate Least Squares or gradient descents). Second, it gives tools for understanding uniqueness conditions, and for detecting the rank.

研究动机与目标

• 开发一种对称张量分解的全局收敛算法，解决现有迭代方法缺乏收敛性保证的问题。
• 将西尔维斯特的经典算法从二元形式推广至高维对称张量。
• 通过汉克尔矩阵秩条件，提供给定秩的对称张量分解存在的必要与充分条件。
• 通过代数几何与标准型计算，实现分解秩与唯一性条件的精确计算。
• 高效求解截断汉克尔问题，即使在无法获得完整矩数据时也能实现分解。

提出的方法

• 将对称张量分解重新表述为对偶问题：将线性泛函表示为在不同点处的取值的线性组合。
• 利用对偶正交性与戈伦斯坦代数的结构，将张量与由矩矩阵定义的商代数联系起来。
• 从多元多项式矩构造汉克尔矩阵与拟汉克尔矩阵，其条目由张量分量导出。
• 通过矩阵方程（M_xi M_xj = M_xj M_xi）强制乘法算子的可交换性，导出未知条目的二次方程组。
• 通过求解广义特征值问题（Δ₁ - λΔ₀）X = 0，恢复对应于分解中线性泛函的根。
• 利用超定线性系统计算最终分解中秩-1项的系数。

实验结果

研究问题

• RQ1 能否对任意阶数与维度的对称张量实现精确且全局的分解，而无需依赖迭代启发式方法？
• RQ2 给定秩 r 的对称张量分解存在的必要与充分条件是什么？
• RQ3 如何利用代数与线性代数工具准确检测并唯一确定对称张量的秩？
• RQ4 当仅有部分矩数据时，能否有效求解截断汉克尔问题？
• RQ5 所提算法在算术与布尔运算下的时间复杂度如何？

主要发现

• 该算法能精确计算次通用秩的对称张量分解，避免了ALS或梯度下降等迭代方法固有的收敛问题。
• 该方法通过分析由其矩导出的汉克尔矩阵的秩，检测对称张量的真实秩。
• 在给定示例中，算法成功将一个三元四次张量分解为六个秩-1项，包括复共轭对。
• 通过求解广义特征值问题验证了分解结果，得到六个特征向量，分别对应于线性泛函的根。
• 该方法通过求解由乘法算子可交换性约束导出的低次多项式系统，处理非通用情形。
• 通过关联戈伦斯坦代数与汉克尔算子的结构，完整刻画了唯一性条件。