[论文解读] Compressed sensing of low-rank plus sparse matrices

Jared Tanner, Simon Vary|arXiv (Cornell University)|Jul 18, 2020

Sparse and Compressive Sensing Techniques被引用 4

一句话总结

本文为低秩与稀疏分量之和的矩阵压缩感知建立了理论保证，表明此类矩阵可通过 $\mathcal{O}(r(m+n-r) + s)\log(mn/s)$ 个线性测量值，利用凸与非凸算法实现稳定恢复。关键贡献在于在非一致性约束下证明了受限等距常数的有界性，从而实现了渐近最优的噪声容忍度下的可证明恢复。

ABSTRACT

Expressing a matrix as the sum of a low-rank matrix plus a sparse matrix is a flexible model capturing global and local features in data popularized as Robust PCA (Candes et al., 2011; Chandrasekaran et al., 2009). Compressed sensing, matrix completion, and their variants (Eldar and Kutyniok, 2012; Foucart and Rauhut, 2013) have established that data satisfying low complexity models can be efficiently measured and recovered from a number of measurements proportional to the model complexity rather than the ambient dimension. This manuscript develops similar guarantees showing that $m imes n$ matrices that can be expressed as the sum of a rank-$r$ matrix and a $s$-sparse matrix can be recovered by computationally tractable methods from $\mathcal{O}(r(m+n-r)+s)\log(mn/s)$ linear measurements. More specifically, we establish that the low-rank plus sparse matrix set is closed provided the incoherence of the low-rank component is upper bounded as $μ

研究动机与目标

• 将压缩感知理论扩展至低秩与稀疏分量之和的矩阵模型，该模型在鲁棒主成分分析与动态场景分离中具有核心作用。
• 利用半定规划与非凸阈值算法等计算上可行的方法，建立此类矩阵的理论恢复保证。
• 在先前恢复保证中去除对稀疏分量支持的严格假设，例如均匀的行/列分布。
• 证明在秩、稀疏度与非一致性参数的固定渐近比例下，测量算子的受限等距常数（RICs）保持有界，且与问题规模无关。
• 在动态视频分离与多光谱成像等实际应用中展示改进的恢复性能。

提出的方法

• 引入集合 $\operatorname{LS}_{m,n}(r,s,\mu)$，表示低秩加稀疏矩阵，并对低秩分量的奇异向量施加非一致性约束，确保在边界 $\mu < \sqrt{mn}/(r\sqrt{s})$ 下该集合是闭集。
• 证明当测量数按 $\mathcal{O}(r(m+n-r) + s)\log(mn/s)$ 缩放时，高斯测量与快速约翰逊-林登施特拉普变换（FJLT）测量的受限等距常数（RICs）有界。
• 证明当 RICs 足够小时，半定规划与两种非凸算法（NIHT 与 NAHT）可收敛至真实矩阵。
• 利用测度集中不等式控制随机测量算子的 RICs，从而推广至多种采样方案。
• 采用新颖的分析框架，通过非一致性参数 $\mu$ 控制低秩与稀疏分量之间的相关性。
• 通过合成数据、动态视频前景/背景分离与机载高光谱成像的数值实验验证理论结果。

实验结果

研究问题

• RQ1 能否从与自由度成比例的测量数中稳定恢复低秩加稀疏矩阵，而非与环境维度成比例？
• RQ2 低秩分量的非一致性满足何种条件，可确保低秩加稀疏矩阵集合为闭集，且 RICs 保持有界？
• RQ3 在与凸方法相同的测量制度下，NIHT 与 NAHT 等非凸算法能否可证明地恢复此类矩阵？
• RQ4 所提出的框架是否在鲁棒主成分分析中实现渐近最优的噪声容忍度，且无需假设噪声在行与列上均匀分布？
• RQ5 在真实世界成像应用中，低秩加稀疏模型的恢复性能与仅低秩模型相比如何？

主要发现

• 当 $\mu < \sqrt{mn}/(r\sqrt{s})$ 时，集合 $\operatorname{LS}_{m,n}(r,s,\mu)$ 为闭集，从而支持 RIC 的理论分析。
• 当测量数为 $\mathcal{O}(r(m+n-r) + s)\log(mn/s)$ 时，高斯与 FJLT 测量算子的受限等距常数有界。
• 当 RICs 足够小时，半定规划与非凸算法（NIHT、NAHT）可可证明地恢复低秩加稀疏矩阵。
• 该框架在鲁棒主成分分析中实现渐近最优的噪声容忍度 $\alpha = \mathcal{O}(1/(\mu r))$，相比先前工作通过去除支持分布假设实现改进。
• 在多光谱成像中，低秩加稀疏模型的 PSNR 达 39.1 dB，优于仅低秩模型的 38.9 dB，且在局部图像细节上表现出更明显的改善。
• 在动态视频分离中，该方法仅使用全视频采样约三分之一的测量数，即可实现相似的运动物体恢复精度。