[论文解读] A universality theorem for nonnegative matrix factorizations

Yaroslav Shitov|arXiv (Cornell University)|Jun 29, 2016

Tensor decomposition and applications参考文献 31被引用 21

一句话总结

本文建立了非负矩阵分解（NMF）的普遍性定理，证明任意有界半代数集均可有理等价于某个非负矩阵的非负分解空间。关键结果是NMF与实数存在理论（ETR）多项式时间等价，因此属于∃ℝ完全类，解决了长期存在的复杂性问题，包括Cohen–Rothblum关于在ℝ的不同子域上分解行为的难题。

ABSTRACT

Let $A$ be a matrix with nonnegative real entries. A nonnegative factorization of size $k$ is a representation of $A$ as a sum of $k$ nonnegative rank-one matrices. The space of all such factorizations is a bounded semialgebraic set, and we prove that spaces arising in this way are universal. More presicely, we show that every bounded semialgebraic set $U$ is rationally equivalent to the set of nonnegative size-$k$ factorizations of some matrix $A$ up to a permutation of matrices in the factorization. We prove that, if $U\subset\mathbb{R}^n$ is given as the zero locus of a polynomial with coefficients in $\mathbb{Q}$, then such a pair $(A,k)$ can be computed in polynomial time. This result gives a complete description of the algorithmic complexity of nonnegative rank, and it also allows one to solve the problem of Cohen and Rothblum on nonnegative factorizations restricted to matrices over different subfields of $\mathbb{R}$.

研究动机与目标

• 建立非负矩阵分解（NMF）的普遍性定理，表明NMF的解空间可编码任意有界半代数集。
• 确定NMF的精确算法复杂度，解决其计算难度的长期悬而未决问题。
• 解决Cohen–Rothblum关于NMF在ℝ的不同有序子域上行为的难题。
• 证明对于有理系数，可在多项式时间内计算出矩阵A与分解大小k，使得NMF空间有理等价于给定的半代数集。

提出的方法

• 本文构造矩阵A与分解大小k，使得A的非负k-分解集合有理等价于给定的有界半代数集U。
• 使用变量装置——带参数的专用矩阵构造——以编码[0,1]范围内取值的变量，并通过非负秩条件强制执行代数约束。
• 通过含理性参数与变量项的分块矩阵编码线性组合，确保仅当线性方程满足时非负秩恰好下降。
• 通过具有特定结构的3×3分块矩阵编码变量乘积，利用非负秩约束强制实现u₁u₂ = v。
• 通过迭代应用该构造，将任意多项式方程分解为变量的和与积，从而实现编码。
• 最终矩阵H被构建为结合编码方程的分块对角矩阵；其非负分解空间被证明与原始多项式方程组的解集强等价。

实验结果

研究问题

• RQ1 每个有界半代数集是否都能作为非负矩阵分解问题的解空间实现？
• RQ2 非负矩阵分解问题是否属于实数存在理论（ETR）的完全类？
• RQ3 当分解秩无界时，NMF的计算复杂度为何？其与其它代数问题的复杂度如何比较？
• RQ4 当NMF被限制在ℝ的不同子域（如ℚ或其它有序域）时，其复杂度如何变化？
• RQ5 能否在多项式时间内计算出矩阵A与分解大小k，使得NMF空间有理表示定义在ℚ上的给定半代数集？

主要发现

• 非负矩阵的非负k-分解空间具有普遍性：每个有界半代数集均有理等价于此类空间。
• NMF与实数存在理论（ETR）多项式时间等价，因此属于∃ℝ完全类。
• 对于任意定义为有理系数多项式零点集的半代数集U ⊂ ℝⁿ，可在多项式时间内计算出矩阵A与整数k，使得NMF空间有理等价于U。
• 通过结合线性与乘积约束的专用矩阵装置，NMF的解空间可编码任意多项式方程。
• Cohen–Rothblum关于ℝ不同子域上NMF的难题已完全解决：复杂度与可实现性取决于所选域，且该构造提供统一框架。
• 所构造矩阵H的非负秩恰好为ρ = 5r + 9(∑(mᵢ − 1))，且其分解空间与原始多项式方程组的解集强等价。