[论文解读] Non-convex Penalty for Tensor Completion and Robust PCA.

Tao Li, Jinwen Ma|arXiv (Cornell University)|Apr 23, 2019

Sparse and Compressive Sensing Techniques参考文献 35被引用 4

一句话总结

本文提出了一种非凸张量秩近似函数和稀疏性度量，通过引入凹性来减少ℓ₁-范数固有的偏差。通过将这些惩罚项应用于张量补全和鲁棒PCA，该方法在图像修复和去噪任务中实现了更优的性能，且通过分量最小化和基于ADMM的优化确保了收敛性。

ABSTRACT

In this paper, we propose a novel non-convex tensor rank surrogate function and a novel non-convex sparsity measure for tensor. The basic idea is to sidestep the bias of $\ell_1-$norm by introducing concavity. Furthermore, we employ the proposed non-convex penalties in tensor recovery problems such as tensor completion and tensor robust principal component analysis, which has various real applications such as image inpainting and denoising. Due to the concavity, the models are difficult to solve. To tackle this problem, we devise majorization minimization algorithms, which optimize upper bounds of original functions in each iteration, and every sub-problem is solved by alternating direction multiplier method. Finally, experimental results on natural images and hyperspectral images demonstrate the effectiveness and efficiency of the proposed methods.

研究动机与目标

• 为解决低秩和稀疏张量恢复中ℓ₁-范数引入的偏差问题，提出一种非凸替代方法。
• 提出一种新型非凸张量秩近似函数，以更准确地逼近真实张量秩。
• 设计一种非凸稀疏性度量，以增强张量中低秩与稀疏分量的分离能力。
• 将这些惩罚项应用于图像修复等实际张量恢复问题，如图像补全和去噪。
• 设计一种高效的优化框架，以处理所提模型的非凸性。

提出的方法

• 提出一种引入凹性的非凸张量秩近似函数，与ℓ₁-范数相比可减少偏差。
• 引入一种非凸稀疏性度量，以增强张量中稀疏分量的表示能力。
• 采用分量最小化方法，迭代优化非凸目标函数的上界。
• 在分量最小化框架中，使用交替方向乘子法（ADMM）求解每个子问题。
• 将所提框架应用于基于真实图像数据的张量补全和鲁棒PCA任务。
• 通过迭代优化，即使在目标函数非凸的情况下，也能收敛至驻定解。

实验结果

研究问题

• RQ1 非凸张量秩近似函数能否减少低秩张量逼近中ℓ₁-范数的偏差？
• RQ2 非凸稀疏性度量如何提升张量分解中稀疏分量的恢复效果？
• RQ3 所提出的非凸惩罚项能否在张量补全和鲁棒PCA中超越凸替代方法？
• RQ4 分量最小化结合ADMM在求解非凸张量恢复问题时是否有效？
• RQ5 该方法在自然图像和高光谱图像数据集上的实际表现如何？

主要发现

• 所提出的非凸张量秩近似函数相比ℓ₁-范数能有效减少偏差，从而实现更优的低秩逼近。
• 非凸稀疏性度量增强了张量分解中稀疏分量的分离能力。
• 该方法在自然图像和高光谱图像数据集上的图像补全与去噪任务中表现更优。
• 尽管目标函数具有非凸性，分量最小化结合ADMM的算法仍能有效收敛。
• 实验结果表明，该方法在真实世界图像恢复任务中兼具有效性和高效性。
• 在重建精度和鲁棒性方面，该方法优于传统的凸优化方法。