[论文解读] Tensor-Ring Nuclear Norm Minimization and Application for Visual Data Completion

Jinshi Yu, Chao Li+2 more|arXiv (Cornell University)|Mar 21, 2019

Sparse and Compressive Sensing Techniques参考文献 6被引用 10

一句话总结

该论文提出了一种基于张量循环展开的新张量环核范数的新型凸张量补全方法，为非凸TR方法提供了一种计算高效的替代方案。该方法在具有条纹缺失数据的图像和视频修复任务中实现了最先进性能，显著降低了运行时间，同时避免了手动选择TR秩。

ABSTRACT

Tensor ring (TR) decomposition has been successfully used to obtain the state-of-the-art performance in the visual data completion problem. However, the existing TR-based completion methods are severely non-convex and computationally demanding. In addition, the determination of the optimal TR rank is a tough work in practice. To overcome these drawbacks, we first introduce a class of new tensor nuclear norms by using tensor circular unfolding. Then we theoretically establish connection between the rank of the circularly-unfolded matrices and the TR ranks. We also develop an efficient tensor completion algorithm by minimizing the proposed tensor nuclear norm. Extensive experimental results demonstrate that our proposed tensor completion method outperforms the conventional tensor completion methods in the image/video in-painting problem with striped missing values.

研究动机与目标

• 解决现有基于张量环（TR）的低秩张量补全方法存在的高计算复杂度和非凸性问题。
• 消除对人工选择TR秩的需求，因为TR秩的向量值性质导致其计算成本过高。
• 构建TR秩的凸松弛近似，以实现高效优化并提供理论保证。
• 提升视觉数据补全任务的性能，特别是在图像和视频中具有条纹缺失模式的情况下。

提出的方法

• 提出张量循环展开作为新操作，通过步长参数d将张量元素重排为矩阵。
• 理论上证明每个循环展开矩阵的秩受相邻TR核心秩乘积的限制，从而建立矩阵秩与TR秩之间的联系。
• 将张量环核范数定义为所有循环展开矩阵的核范数之和，作为TR秩的凸松弛近似。
• 开发基于ADMM的优化算法，在低秩约束下最小化所提出的张量环核范数。
• 利用循环展开结构实现高效计算，避免了先前TR方法中O(R^6)的复杂度。
• 采用默认步长d = floor(N/2)以最大化信息捕获，经实证验证。

实验结果

研究问题

• RQ1 能否构建TR秩的凸松弛形式，以实现在张量补全中的高效优化？
• RQ2 循环展开矩阵的秩与底层张量环秩之间有何关系？
• RQ3 所提出的张量环核范数在具有条纹缺失模式的视觉数据上，能否在准确率和运行时间方面优于现有TR方法？
• RQ4 所提出的方法是否能消除对手动选择TR秩的需求，同时保持或提升性能？

主要发现

• 所提出的TRNNM方法在具有条纹缺失的图像和视频数据集上，相对平方误差（RSE）均低于所有对比方法。
• 对于缺失率为70%（mr=0.7）的ocean视频，TRNNM的RSE为0.066，优于TR-ALS（0.113）及其他方法。
• TRNNM将ocean视频在mr=0.7时的运行时间缩短至233.71秒，相较TR-ALS的851.37秒，使其更适用于实际应用。
• 对于9阶张量，步长d=4的设置表现最佳，验证了选择d=floor(N/2)为最优的合理性。
• 视觉结果表明，TRNNM在图像和视频修复中能更好地保留细节和纹理，尤其在复杂区域的条纹缺失区域表现更优。
• 循环展开矩阵秩与TR秩之间的理论联系，为方法中使用的凸松弛提供了坚实基础。