[论文解读] Computing approximate PSD factorizations

Amitabh Basu, Michael Dinitz+1 more|arXiv (Cornell University)|Feb 23, 2016

Advanced Graph Theory Research参考文献 14被引用 8

一句话总结

本文提出了一种在固定正定秩（PSD rank）条件下，针对非负矩阵的近似正定矩阵分解（PSD factorization）的多项式时间算法。该方法在由PSD锥约束定义的一般多面体约束内进行精确分解，并结合有理逼近与谱投影，实现 $\|M - UV\|_{\infty} \leq \epsilon\|M\|_{\infty}$ 的误差界，运行时间在矩阵维度上为多项式时间，仅在秩和误差容限上呈指数依赖。

ABSTRACT

We give an algorithm for computing approximate PSD factorizations of nonnegative matrices. The running time of the algorithm is polynomial in the dimensions of the input matrix, but exponential in the PSD rank and the approximation error. The main ingredient is an exact factorization algorithm when the rows and columns of the factors are constrained to lie in a general polyhedron. This strictly generalizes nonnegative matrix factorizations which can be captured by letting this polyhedron to be the nonnegative orthant.

研究动机与目标

• 开发一种针对非负矩阵在有界误差下近似PSD分解的多项式时间算法。
• 通过多面体约束，将非负矩阵分解技术扩展至更广泛的PSD分解类别。
• 解决一个开放问题：当精确秩固定时，低秩PSD分解是否可高效计算？
• 为通过低秩PSD分解近似多面体的松弛矩阵提供一种计算上可行的方法。
• 在图灵机模型下建立近似误差与运行时间的理论保证。

提出的方法

• 该算法将问题简化为在由PSD锥约束定义的一般多面体内的精确分解。
• 通过多项式方程组解的有理逼近处理图灵模型中的实数运算，误差界为 $O(\delta)$。
• 在 $\log(1/\delta)$ 时间内以 $\delta$ 精度近似谱分解，确保数值稳定性。
• 通过近似最近点投影将矩阵行与列投影到PSD锥上，保持误差控制。
• 仔细追踪并校准近似带来的误差项，确保最终分解满足 $\|M - UV\|_{\infty} \leq \epsilon\|M\|_{\infty}$。
• 该算法在 $n$、$m$ 和 $\log(1/\epsilon)$ 上为多项式时间，仅在固定PSD秩 $r$ 上呈指数依赖。

实验结果

研究问题

• RQ1 对于固定PSD秩的非负矩阵，能否在多项式时间内计算其近似PSD分解？
• RQ2 该算法能否在保留近似保证的前提下适配图灵机模型？
• RQ3 在使用有理逼近与近似谱分解时，该算法是否仍能保持精度？
• RQ4 该方法能否推广至其他矩阵范数，如 $\|\cdot\|_{1,2}$ 或 $\|\cdot\|_{\infty,2}$？
• RQ5 若某矩阵接近于低PSD秩矩阵，能否找到一个低秩PSD分解以良好地近似它？

主要发现

• 该算法计算出一个近似PSD分解 $M = UV$，使得对任意 $\epsilon > 0$，有 $\|M - UV\|_{\infty} \leq \epsilon\|M\|_{\infty}$。
• 运行时间在矩阵维度 $n$ 和 $m$ 以及 $\log(1/\epsilon)$ 上为多项式时间，仅在固定PSD秩 $r$ 上呈指数依赖。
• 通过使用多项式方程组的有理逼近与有界误差的谱分解，该方法在图灵机模型中有效运行。
• 有理逼近与谱逼近带来的近似误差被控制并整合进最终的 $\epsilon$-界中。
• 该方法通过允许因子的行与列位于任意多面体集合（包括PSD锥）中，推广了非负矩阵分解。
• 该结果为文献中问题1提供了构造性解答，表明在固定秩下，近似PSD分解可在多项式时间内计算。