[論文レビュー] Recursive Robust PCA or Recursive Sparse Recovery in Large but Structured Noise (parts 1 and 2 combined)

Chenlu Qiu, Namrata Vaswani+2 more|arXiv (Cornell University)|Dec 19, 2013

Speech and Audio Processing被引用数 3

ひとこと要約

本稿では、$L_t$ がゆっくり変化する低次元部分空間に位置すると仮定して、時間的に正確にスパース信号 $S_t$ と低ランク背景行列 $L_t$ を再構築する再帰的ロバストPCA手法を提案する。弱い仮定と未推定部分空間の密度条件の下で、$S_t$ の正確なサポート回復と高確率での有界な再構築誤差を達成する。

ABSTRACT

This work studies the recursive robust principal components analysis (PCA) problem. If the outlier is the signal-of-interest, this problem can be interpreted as one of recursively recovering a time sequence of sparse vectors, $S_t$, in the presence of large but structured noise, $L_t$. The structure that we assume on $L_t$ is that $L_t$ is dense and lies in a low dimensional subspace that is either fixed or changes "slowly enough". A key application where this problem occurs is in video surveillance where the goal is to separate a slowly changing background ($L_t$) from moving foreground objects ($S_t$) on-the-fly. To solve the above problem, in recent work, we introduced a novel solution called Recursive Projected CS (ReProCS). In this work we develop a simple modification of the original ReProCS idea and analyze it. This modification assumes knowledge of a subspace change model on the $L_t$'s. Under mild assumptions and a denseness assumption on the unestimated part of the subspace of $L_t$ at various times, we show that, with high probability (w.h.p.), the proposed approach can exactly recover the support set of $S_t$ at all times; and the reconstruction errors of both $S_t$ and $L_t$ are upper bounded by a time-invariant and small value. In simulation experiments, we observe that the last assumption holds as long as there is some support change of $S_t$ every few frames.

研究の動機と目的

• 背景（構造的ノイズ）が時間とともにゆっくり変化する状況における再帰的ロバストPCAを扱う。
• 動き回る物体（$S_t$）をゆっくり変化する背景（$L_t$）から分離することで、ビデオ監視におけるリアルタイムフォアグラウンド検出を可能にする。
• スパース信号 $S_t$ の正確なサポート回復と、$S_t$ および $L_t$ 両方の再構築誤差を有界に保証する手法を開発する。
• 提案手法が高確率で安定かつ正確な回復を達成するための条件を分析する。

提案手法

• 再帰的投影圧縮センシング（ReProCS）の修正版を提案し、$L_t$ の部分空間変化モデルを組み込む。
• 未推定部分の $L_t$ 部分空間が各時刻で密度を保つと仮定する。
• 再帰的に $L_t$ の部分空間を推定し、それを用いてスパース成分 $S_t$ を投影・回復する。
• 仮定された条件下で、$S_t$ および $L_t$ の両方の再構築誤差に時間不変の上界が保たれることを保証する。
• $L_t$ の低ランク性とゆっくり変化する性質を活用して、再帰的回復におけるロバスト性と正確性を向上させる。
• 理論的分析により、弱い仮定と密度条件の下で、$S_t$ の正確なサポート回復が高確率で達成されることを示す。

実験結果

リサーチクエスチョン

• RQ1 構造的低ランクノイズが存在する状況で、再帰的ロバストPCAがスパース信号の正確なサポート回復を達成できる条件は何か？
• RQ2 提案手法は、時間経過に伴って $S_t$ および $L_t$ の再構築誤差をどのように有界に保っているか？
• RQ3 $L_t$ の未推定部分空間の密度が安定した回復を保証するために果たす役割は何か？
• RQ4 部分空間変化モデルは、先行手法と比較して再帰的スパース回復の性能をどのように向上させるか？
• RQ5 $S_t$ のサポートの変化が、アルゴリズムの正確な回復能力に与える影響は何か？

主な発見

• 弱い仮定と $L_t$ の未推定部分空間の密度条件の下で、提案手法は高確率で $S_t$ の正確なサポート回復を達成する。
• $S_t$ および $L_t$ の再構築誤差は、時間不変かつ小さな値で上界が保証され、長期的な安定性が確保される。
• 未推定部分空間の密度仮定は、$S_t$ が数フレームごとにサポート変更を示す限り、シミュレーションでも成り立つ。
• $L_t$ のゆっくり変化する部分空間構造を活用することで、再帰的回復において安定した性能を維持する。
• 理論的分析により、再構築誤差の境界が時間経過に伴って増大しないことが確認され、信頼性の高いリアルタイム運用が可能である。
• シミュレーション結果により、$S_t$ のサポートが周期的に変化する場合に実用的に良好な性能を発揮することが検証された。