[论文解读] Principal Component Pursuit with Reduced Linear Measurements

Arvind Ganesh, Kerui Min+2 more|arXiv (Cornell University)|Feb 29, 2012

Sparse and Compressive Sensing Techniques参考文献 16被引用 6

一句话总结

本文提出了一种凸优化框架，用于在仅有少量线性测量可用时，实现鲁棒的低秩与稀疏矩阵分解。该方法将主成分追踪（PCP）扩展至处理部分或变换后的数据情形，在适当条件下，证明了即使测量数据减少，该方法仍能可靠地恢复真实的低秩与稀疏分量，且对随机与确定性测量模型均提供了理论保证。

ABSTRACT

In this paper, we study the problem of decomposing a superposition of a low-rank matrix and a sparse matrix when a relatively few linear measurements are available. This problem arises in many data processing tasks such as aligning multiple images or rectifying regular texture, where the goal is to recover a low-rank matrix with a large fraction of corrupted entries in the presence of nonlinear domain transformation. We consider a natural convex heuristic to this problem which is a variant to the recently proposed Principal Component Pursuit. We prove that under suitable conditions, this convex program guarantees to recover the correct low-rank and sparse components despite reduced measurements. Our analysis covers both random and deterministic measurement models.

研究动机与目标

• 解决在仅能获取有限数量线性测量时，恢复低秩与稀疏矩阵分量的挑战，特别是在涉及非线性变换（如图像校正或对齐）的情形下。
• 弥合图像处理中增量式PCP类方法在实践中取得的成功与此类减少测量设置下缺乏理论恢复保证之间的差距。
• 提供理论条件，证明当测量稀疏或具有结构时，低秩与稀疏矩阵分解问题的凸松弛仍能恢复正确分量。
• 分析在随机与确定性测量模型下的恢复性能，将现有PCP理论扩展至观测值少于完整矩阵的情形。

提出的方法

• 将问题公式化为凸优化程序：在由测量模型导出的少量线性约束下，最小化低秩矩阵的核范数与稀疏矩阵的ℓ₁-范数。
• 将测量过程建模为ℝ^{m×n}中的线性子空间Q，其中正交补空间Q⊥捕获未观测或未测量的分量，从而将约束数量从mn减少至q = mn − p。
• 使用正交投影算子ℙ_Q约束测量一致性，将问题重述为：min_{L,S} ‖L‖_* + λ‖S‖₁，满足ℙ_Q D = ℙ_Q(L + S)。
• 应用矩阵集中不等式，特别是矩阵伯恩斯坦不等式，以界定由测量结构产生的随机矩阵算子的谱范数。
• 推导出算子范数‖ℙ_Q⊥ℙ_Ωℙ_Q⊥‖的概率界，表明在测量结构与噪声水平满足一定条件时，其以高概率有界于2ρ。
• 证明：若测量子空间Q⊥满足特定的非一致性与维数条件，则该凸规划的解能以高概率恢复真实的低秩与稀疏分量。

实验结果

研究问题

• RQ1 在仅有少量线性测量可用时，低秩与稀疏矩阵分解的凸松弛在何种条件下能成功恢复真实分量？
• RQ2 主成分追踪（PCP）的理论恢复保证能否扩展至测量并非完整矩阵条目，而是线性投影的情形（如图像校正或对齐）？
• RQ3 随机与确定性测量模型如何影响所提凸规划的恢复性能？
• RQ4 可建立何种概率界以确保低秩与稀疏分量的精确恢复，从而控制测量算子的谱范数？

主要发现

• 当测量子空间Q⊥满足适当的非一致性与维数条件时，所提凸规划能以高概率成功恢复真实的低秩与稀疏分量。
• 在ν²p³ log m / n ≤ C₃ρ²（C₃ > 0为某常数）的条件下，算子ℙ_Q⊥ℙ_Ωℙ_Q⊥的谱范数以高概率有界于2ρ。
• 当ρ足够小时，且ν²p³ log m / n ≤ C，有‖ℙ_Q⊥ℙ_Ω‖ < 1/2以高概率成立，表明测量模型对恢复而言具有足够的信息量。
• 理论保证已建立于随机与确定性测量模型之上，将PCP的适用性扩展至部分或变换数据的情形。
• 只要测量子空间Q⊥与标准基非一致，且秩与稀疏度水平不过大，该方法即使在测量数量显著减少时也能实现稳定恢复。
• 分析表明，凸松弛对测量减少具有鲁棒性，恢复成功取决于测量子空间的维数、污染的稀疏度以及测量结构的非一致性之间的相互作用。