[论文解读] Exact Decomposition of Joint Low Rankness and Local Smoothness Plus Sparse Matrices

Jiangjun Peng, Yao Wang+3 more|arXiv (Cornell University)|Jan 29, 2022

Sparse and Compressive Sensing Techniques被引用 6

一句话总结

该论文提出了一种新型的鲁棒主成分分析模型——3DCTV-RPCA，通过利用三维相关总变差正则化，精确地将矩阵分解为低秩（L）、局部平滑（LSS）和稀疏（S）分量。该方法在温和假设下首次提供了精确恢复的理论保证，并采用了一种基于快速傅里叶变换（FFT）加速的ADMM算法，具备收敛性证明，在高光谱图像和监控视频应用中优于现有方法。

ABSTRACT

It is known that the decomposition in low-rank and sparse matrices ( extbf{L+S} for short) can be achieved by several Robust PCA techniques. Besides the low rankness, the local smoothness ( extbf{LSS}) is a vitally essential prior for many real-world matrix data such as hyperspectral images and surveillance videos, which makes such matrices have low-rankness and local smoothness properties at the same time. This poses an interesting question: Can we make a matrix decomposition in terms of extbf{L\&LSS +S } form exactly? To address this issue, we propose in this paper a new RPCA model based on three-dimensional correlated total variation regularization (3DCTV-RPCA for short) by fully exploiting and encoding the prior expression underlying such joint low-rank and local smoothness matrices. Specifically, using a modification of Golfing scheme, we prove that under some mild assumptions, the proposed 3DCTV-RPCA model can decompose both components exactly, which should be the first theoretical guarantee among all such related methods combining low rankness and local smoothness. In addition, by utilizing Fast Fourier Transform (FFT), we propose an efficient ADMM algorithm with a solid convergence guarantee for solving the resulting optimization problem. Finally, a series of experiments on both simulations and real applications are carried out to demonstrate the general validity of the proposed 3DCTV-RPCA model.

研究动机与目标

• 为解决现有结合低秩与局部平滑先验的方法缺乏理论恢复保证的问题。
• 开发一种能同时捕捉低秩性、局部平滑性与稀疏噪声的矩阵分解模型。
• 为L与LSS+S分解形式提供可证明的精确恢复框架。
• 设计一种高效且收敛的优化算法，适用于大规模应用。

提出的方法

• 提出3DCTV-RPCA，一种新型的RPCA模型，利用三维相关总变差（3DCTV）正则化来编码联合的低秩与局部平滑结构。
• 采用改进的Golfing方法，在温和假设下证明精确分解，首次建立了L & LSS + S分解的理论恢复保证。
• 利用快速傅里叶变换（FFT）加速ADMM算法，实现对非光滑优化问题的高效求解。
• 采用核范数正则化以建模空间维度间梯度图的相关性，增强平滑性保持能力。
• 结合ℓ1-范数进行稀疏噪声建模，并将ℓ1-范数与3DCTV及核范数统一整合于优化框架中。
• 推导出具备坚实收敛性保证的收敛ADMM算法，适用于高光谱成像与视频背景建模等实际应用。

实验结果

研究问题

• RQ1 我们能否在统一模型下实现对矩阵中低秩、局部平滑与稀疏分量的精确分解？
• RQ2 是否存在针对联合利用低秩性与局部平滑性的矩阵分解方法的理论恢复保证？
• RQ3 如何利用三维总变差框架有效正则化联合的低秩与局部平滑结构？
• RQ4 我们能否设计一种高效且收敛的算法来求解由此产生的非光滑优化问题？
• RQ5 在高光谱图像修复与视频背景建模等实际应用中，所提出的3DCTV-RPCA模型相较于现有RPCA方法表现如何？

主要发现

• 在温和假设下，3DCTV-RPCA模型实现了对低秩、局部平滑与稀疏分量的精确分解，首次为该类模型提供了理论恢复保证。
• 在高光谱图像插值任务中，3DCTV-RPCA在PSNR与SSIM指标上全面优于所有对比方法，更好地保持了色彩保真度。
• 在Li监控视频数据集上，3DCTV-RPCA的AUC达到0.924，优于PCP的0.905，且与MPCP（0.940）相当，无需额外干净帧进行子空间学习。
• 基于FFT加速的ADMM算法收敛稳定且高效，支持大规模应用，并具备坚实的理论基础。
• 视觉结果表明，与其他方法相比，3DCTV-RPCA在伪彩色图像中更好地保持了结构与色彩保真度。
• 该模型在真实世界数据中泛化能力强，在动态背景与光照条件多变等多样化场景下表现出强鲁棒性。