[论文解读] Exact tensor completion using t-SVD

Zemin Zhang, Shuchin Aeron|arXiv (Cornell University)|Feb 16, 2015

Sparse and Compressive Sensing Techniques参考文献 24被引用 12

一句话总结

该论文提出了一种基于t-SVD的凸优化框架，用于通过张量管秩实现精确张量补全，证明了当采样率与张量的管秩成比例时，以高概率可实现精确恢复。该方法通过最小化张量核范数作为凸代理，实现了在张量无偏性条件下的最优采样复杂度。

ABSTRACT

In this paper we focus on the problem of completion of multidimensional arrays (also referred to as tensors) from limited sampling. Our approach is based on a recently proposed tensor-Singular Value Decomposition (t-SVD) [1]. Using this factorization one can derive notion of tensor rank, referred to as the tensor tubal rank, which has optimality properties similar to that of matrix rank derived from SVD. As shown in [2] some multidimensional data, such as panning video sequences exhibit low tensor tubal rank and we look at the problem of completing such data under random sampling of the data cube. We show that by solving a convex optimization problem, which minimizes the tensor nuclear norm obtained as the convex relaxation of tensor tubal rank, one can guarantee recovery with overwhelming probability as long as samples in proportion to the degrees of freedom in t-SVD are observed. In this sense our results are order-wise optimal. The conditions under which this result holds are very similar to the incoherency conditions for the matrix completion, albeit we define incoherency under the algebraic set-up of t-SVD. We show the performance of the algorithm on some real data sets and compare it with other existing approaches based on tensor flattening and Tucker decomposition.

研究动机与目标

• 解决从有限、随机采样的张量条目中恢复多维数组（张量）的挑战。
• 建立在新型张量分解框架下，实现精确张量补全的理论条件。
• 基于t-SVD的张量管秩凸松弛，开发一种计算上可行的方法。
• 在恢复精度和采样效率方面，将所提方法与基于CP和Tucker分解的现有张量补全方法进行比较。

提出的方法

• 利用张量奇异值分解（t-SVD）定义张量管秩，实现在张量中对低秩结构的建模。
• 引入张量核范数作为张量管秩的凸松弛，用于基于优化的恢复。
• 采用凸优化问题，通过最小化张量核范数并满足已观测条目，确保在无偏性条件下的精确恢复。
• 应用非交换伯恩斯坦不等式（NBI）推导恢复概率的理论边界。
• 定义一种类似于矩阵无偏性的张量无偏性条件，专门针对t-SVD代数结构设计。
• 采用张量条目的随机采样，并证明当样本数满足 $\mathcal{O}(rn_1n_3\log((n_1+n_2)n_3))$ 时，可高概率实现恢复。

实验结果

研究问题

• RQ1 在t-SVD框架下，使用随机采样能否保证精确张量补全？
• RQ2 低管秩张量精确恢复所需的最小采样率是多少？
• RQ3 与基于CP和Tucker的张量补全方法相比，所提t-SVD方法在性能和采样效率方面如何？
• RQ4 何种张量无偏性条件可确保在t-SVD框架下以高概率实现恢复？
• RQ5 张量核范数是否为张量管秩的紧致凸松弛，以实现精确恢复？

主要发现

• 当采样条目数为 $\mathcal{O}(rn_1n_3\log((n_1+n_2)n_3))$ 时，可高概率实现精确张量补全，其中 $r$ 为张量管秩。
• 该方法实现了阶最优的采样复杂度，与理论下限仅相差对数因子。
• 在张量无偏性条件下，张量核范数最小化可唯一实现精确恢复。
• 数值实验表明，该方法在 $144\times 256\times 80$ 篮球视频上以50%随机采样时，相对平方误差（RSE）为0.0915，优于矩阵补全（RSE：0.1409）及其他张量方法。
• 当采样率超过理论阈值时，模拟中的恢复率可达100%（白色单元格），证实了理论边界的正确性。
• t-SVD框架通过将基于矩阵的向量空间工具适配至张量，提供了可靠的性能保证，为CP和Tucker分解提供了一种理论坚实且计算可行的替代方案。