[论文解读] Tensor N-tubal rank and its convex relaxation for low-rank tensor recovery

Yu‐Bang Zheng, Ting‐Zhu Huang+4 more|arXiv (Cornell University)|Dec 3, 2018

Medical Imaging and Analysis被引用 7

一句话总结

该论文提出了一种新型张量秩——张量 $N$-管秩（tensor $N$-tubal rank），基于模式-$k_1k_2$ 张量展开及其凸松弛形式——加权张量核范数之和（WSTNN），以更好地捕捉 $N$ 方张量中所有模式上的低秩结构。与现有方法相比，该方法在低秩张量补全和鲁棒张量恢复任务中显著提升了性能。

ABSTRACT

As low-rank modeling has achieved great success in tensor recovery, many research efforts devote to defining the tensor rank. Among them, the recent popular tensor tubal rank, defined based on the tensor singular value decomposition (t-SVD), obtains promising results. However, the framework of the t-SVD and the tensor tubal rank are applicable only to three-way tensors and lack of flexibility to handle different correlations along different modes. To tackle these two issues, we define a new tensor unfolding operator, named mode-$k_1k_2$ tensor unfolding, as the process of lexicographically stacking the mode-$k_1k_2$ slices of an $N$-way tensor into a three-way tensor, which is a three-way extension of the well-known mode-$k$ tensor matricization. Based on it, we define a novel tensor rank, the tensor $N$-tubal rank, as a vector whose elements contain the tubal rank of all mode-$k_1k_2$ unfolding tensors, to depict the correlations along different modes. To efficiently minimize the proposed $N$-tubal rank, we establish its convex relaxation: the weighted sum of tensor nuclear norm (WSTNN). Then, we apply WSTNN to low-rank tensor completion (LRTC) and tensor robust principal component analysis (TRPCA). The corresponding WSTNN-based LRTC and TRPCA models are proposed, and two efficient alternating direction method of multipliers (ADMM)-based algorithms are developed to solve the proposed models. Numerical experiments demonstrate that the proposed models significantly outperform the compared ones.

研究动机与目标

• 解决现有张量秩（如张量管秩和 Tucker 秩）的局限性，例如仅适用于三阶张量，或无法保持多模式结构相关性。
• 克服传统张量展开方法在捕捉 $N$ 阶张量中所有模式组合间相关性方面的僵化性。
• 为所提出的 $N$-管秩设计凸松弛形式，以支持低秩张量恢复任务中的高效优化。
• 将新框架应用于两个核心张量恢复问题：低秩张量补全（LRTC）与张量鲁棒主成分分析（TRPCA），实现性能提升。
• 设计基于 ADMM 的高效算法求解所得优化模型，并提供理论收敛性保证。

提出的方法

• 提出一种新型张量展开操作——模式-$k_1k_2$ 张量展开，通过字典序堆叠模式-$k_1k_2$ 切片，将 $N$ 阶张量重组织为三阶张量。
• 将张量 $N$-管秩定义为一个向量，其中每个元素为模式-$k_1k_2$ 展开张量的管秩，以捕捉所有模式对之间的相关性。
• 提出加权张量核范数之和（WSTNN）作为 $N$-管秩的凸代理，通过凸松弛实现高效优化。
• 构建基于 WSTNN 的优化模型用于低秩张量补全（LRTC）与张量鲁棒主成分分析（TRPCA），结合数据保真项与低秩正则化。
• 设计两种基于交替方向乘乘法（ADMM）的高效算法求解 LRTC 与 TRPCA 模型，在凸性条件下保证收敛性。
• 引入自适应权重选择与阈值参数调优（$ au$），以在 TRPCA 中平衡低秩与稀疏分量，提升鲁棒性。

实验结果

研究问题

• RQ1 能否定义一种新型张量秩，以超越现有张量管秩的局限，有效捕捉 $N$ 阶张量中所有模式对的低秩结构？
• RQ2 所提出的模式-$k_1k_2$ 展开操作是否比传统模式-$k$ 矩阵化方法更好地保持内在的多模式相关性？
• RQ3 WSTNN 凸松弛能否在实现高效优化的同时，有效逼近 $N$-管秩？
• RQ4 在合成与真实世界数据上，基于 WSTNN 的 LRTC 模型在恢复精度与鲁棒性方面是否优于现有最先进方法？
• RQ5 在高光谱与视频数据中处理稀疏噪声与干扰时，基于 WSTNN 的 TRPCA 模型在多大程度上优于现有鲁棒张量分解方法？

主要发现

• 在合成与真实世界张量补全任务中，所提出的基于 WSTNN 的 LRTC 模型在 PSNR 上显著更高，相对变化（RelCha）值更低，优于对比方法。
• 在高光谱图像（HSI）去噪任务中，基于 WSTNN 的 TRPCA 方法在所有指标（PSNR、SSIM、FSIM）上均优于基于 TNN 的方法 [46]，在不同噪声水平的合成数据上成功率超过 90%。
• 在华盛顿特区商场 HSI 数据集上，所提方法在噪声水平为 0.4 时达到 PSNR 38.21 dB 与 SSIM 0.987，优于所有对比方法。
• 参数敏感性分析表明，$ au$ 的适中取值（如 100）可获得最优结果，而极端值则因过度或不足正则化导致失败。
• ADMM 算法的收敛性通过实验验证，目标函数值在 50–100 次迭代后趋于稳定，证实了理论收敛性保证。
• 在去噪与补全任务中，该方法在视觉质量上表现更优，能更有效地保留合成与真实世界数据中的细节与纹理特征。