[论文解读] Recursive Robust PCA or Recursive Sparse Recovery in Large but Structured Noise (parts 1 and 2 combined)

Chenlu Qiu, Namrata Vaswani+2 more|arXiv (Cornell University)|Dec 19, 2013

Speech and Audio Processing被引用 3

一句话总结

该论文提出了一种递归鲁棒PCA方法，可在假设 $L_t$ 位于缓慢变化的低维子空间中的前提下，实时精确恢复稀疏信号 $S_t$ 和低秩背景矩阵 $L_t$。在温和假设及未估计子空间的稠密性条件下，该方法以高概率实现 $S_t$ 的精确支持恢复，并保持有界的重建误差。

ABSTRACT

This work studies the recursive robust principal components analysis (PCA) problem. If the outlier is the signal-of-interest, this problem can be interpreted as one of recursively recovering a time sequence of sparse vectors, $S_t$, in the presence of large but structured noise, $L_t$. The structure that we assume on $L_t$ is that $L_t$ is dense and lies in a low dimensional subspace that is either fixed or changes "slowly enough". A key application where this problem occurs is in video surveillance where the goal is to separate a slowly changing background ($L_t$) from moving foreground objects ($S_t$) on-the-fly. To solve the above problem, in recent work, we introduced a novel solution called Recursive Projected CS (ReProCS). In this work we develop a simple modification of the original ReProCS idea and analyze it. This modification assumes knowledge of a subspace change model on the $L_t$'s. Under mild assumptions and a denseness assumption on the unestimated part of the subspace of $L_t$ at various times, we show that, with high probability (w.h.p.), the proposed approach can exactly recover the support set of $S_t$ at all times; and the reconstruction errors of both $S_t$ and $L_t$ are upper bounded by a time-invariant and small value. In simulation experiments, we observe that the last assumption holds as long as there is some support change of $S_t$ every few frames.

研究动机与目标

• 解决背景（结构化噪声）随时间缓慢变化场景下的递归鲁棒PCA问题。
• 通过将运动物体（$S_t$）与缓慢变化的背景（$L_t$）分离，实现实时视频监控中的前景检测。
• 开发一种方法，确保稀疏信号 $S_t$ 的精确支持恢复，以及 $S_t$ 和 $L_t$ 的有界重建误差。
• 分析在何种条件下所提方法能以高概率实现稳定且准确的恢复。

提出的方法

• 提出了一种改进的递归投影压缩感知（ReProCS）版本，引入了 $L_t$ 的子空间变化模型。
• 该方法假设 $L_t$ 子空间的未估计部分在每个时间步均保持稠密。
• 它递归估计 $L_t$ 的子空间，并利用该子空间对稀疏分量 $S_t$ 进行投影与恢复。
• 在所做假设下，该算法对 $S_t$ 和 $L_t$ 的重建误差保持时间不变且较小的上界。
• 该方法利用 $L_t$ 的低秩性和缓慢变化特性，提升了递归恢复中的鲁棒性与准确性。
• 理论分析表明，在温和假设及稠密性条件下，$S_t$ 的精确支持恢复以高概率实现。

实验结果

研究问题

• RQ1 在存在结构化低秩噪声的情况下，递归鲁棒PCA在何种条件下可实现稀疏信号的精确支持恢复？
• RQ2 所提方法如何在长时间内保持 $S_t$ 和 $L_t$ 的有界重建误差？
• RQ3 $L_t$ 未估计子空间的稠密性在确保稳定恢复中起到何种作用？
• RQ4 子空间变化模型相比先前方法如何提升递归稀疏恢复的性能？
• RQ5 支持变化对算法维持准确恢复能力有何影响？

主要发现

• 在温和假设及 $L_t$ 未估计子空间的稠密性条件下，所提方法以高概率实现 $S_t$ 的精确支持恢复。
• $S_t$ 和 $L_t$ 的重建误差均被一个时间不变且较小的值所上界控制，确保长期稳定性。
• 只要 $S_t$ 每隔几帧发生一定程度的支持变化，$L_t$ 子空间未估计部分的稠密性假设在仿真中即可成立。
• 通过利用 $L_t$ 的缓慢变化子空间结构，该方法在递归恢复中保持了稳定性能。
• 理论分析证实，恢复误差界不会随时间增长，从而支持可靠的实时运行。
• 仿真结果验证了当 $S_t$ 的支持周期性变化时，该方法在实际中表现良好。