[论文解读] Characterization of Deterministic and Probabilistic Sampling Patterns for Finite Completability of Low Tensor-Train Rank Tensor

Morteza Ashraphijuo, Xiaodong Wang|arXiv (Cornell University)|Mar 22, 2017

Tensor decomposition and applications参考文献 29被引用 5

一句话总结

本文提出了一种新颖的代数几何框架，用于表征确保低秩张量列车（TT）秩张量有限且唯一可补全的确定性和概率性采样模式。通过将采样条目标建模为TT分解变量中的多项式，作者基于代数独立性推导出有限可补全性的必要与充分条件，并建立概率性采样边界，确保高概率下的唯一恢复，与基于展开的方法相比显著减少了所需样本数。

ABSTRACT

In this paper, we analyze the fundamental conditions for low-rank tensor completion given the separation or tensor-train (TT) rank, i.e., ranks of unfoldings. We exploit the algebraic structure of the TT decomposition to obtain the deterministic necessary and sufficient conditions on the locations of the samples to ensure finite completability. Specifically, we propose an algebraic geometric analysis on the TT manifold that can incorporate the whole rank vector simultaneously in contrast to the existing approach based on the Grassmannian manifold that can only incorporate one rank component. Our proposed technique characterizes the algebraic independence of a set of polynomials defined based on the sampling pattern and the TT decomposition, which is instrumental to obtaining the deterministic condition on the sampling pattern for finite completability. In addition, based on the proposed analysis, assuming that the entries of the tensor are sampled independently with probability $p$, we derive a lower bound on the sampling probability $p$, or equivalently, the number of sampled entries that ensures finite completability with high probability. Moreover, we also provide the deterministic and probabilistic conditions for unique completability.

研究动机与目标

• 识别保证低TT秩张量有限或唯一可补全的根本采样模式条件，且独立于优化算法。
• 通过开发针对TT的代数几何分析，克服现有基于Grassmannian方法的局限性，以捕捉完整的秩向量结构。
• 基于采样条目生成的多项式的代数独立性，推导出有限可补全性的确定性必要与充分条件。
• 提供概率性采样边界，确保在独立同分布（i.i.d.）条目采样下，高概率实现有限且唯一可补全。
• 将TT方法与基于展开的方法进行比较，证明其在减少样本数量方面的高效性。

提出的方法

• 将每个采样张量条目标建模为TT分解张量变量中的多项式，形成一组多项式方程系统。
• 在TT分解上定义等价类，以简化对采样模式下代数独立性的分析。
• 利用采样模式的几何结构，计算可生成的最大代数独立多项式数量，该数量决定有限可补全性。
• 应用Bernstein定理与代数几何时工具，推导出实现有限与唯一可补全所需样本数的边界。
• 通过分析在独立同分布随机采样（概率为$p$）下达到足够代数独立性的可能性，建立概率性采样条件。
• 利用引理18与定理5的结果，推导出确保以置信度$1 - \epsilon$实现唯一可补全的高概率边界，其中$p$的依赖关系明确。

实验结果

研究问题

• RQ1 给定TT秩向量，何种确定性采样模式可确保低TT秩张量的有限可补全？
• RQ2 何种额外的采样模式约束可保证唯一可补全，而不仅仅是有限可补全？
• RQ3 如何通过独立同分布的条目采样实现高概率下的有限或唯一可补全？
• RQ4 所提出的基于TT的代数几何时方法在样本效率上与基于展开的方法相比如何？
• RQ5 在随机采样下，为以高概率确保有限或唯一可补全，所需最少样本数是多少？

主要发现

• 所提出的TT流形上的代数几何时分析可同时考虑所有TT秩分量，而基于Grassmannian的方法仅能逐个处理一个秩分量。
• 基于采样模式生成的最大代数独立多项式数量，推导出有限可补全性的必要与充分条件。
• 对于唯一可补全性，该方法提供了扩展有限可补全条件的确定性充分条件，确保所有变量被完全确定。
• 在独立同分布采样（概率为$p$）下，推导出$p$的下界，使得唯一可补全以至少$1 - \epsilon$的概率成立，且该下界显式依赖于张量大小$n$、维度$d$和秩向量$r_k$。
• 数值比较表明，TT方法所需的样本数显著少于基于展开的方法——尤其在高阶张量中表现出更优的样本效率。
• 唯一可补全性所需的样本数被限制在$n^2 \max\left\{63\log(4n/\epsilon) + 9\log(8M/\epsilon) + 18, 6r_{d-2}\right\}$以内，其中$M = n\sum_{k=1}^{d-2} r_{k-1}r_k - \sum_{k=1}^{d-2} r_k^2$。