[論文レビュー] Recursive Robust PCA or Recursive Sparse Recovery in Large but Structured Noise

Chenlu Qiu, Namrata Vaswani+2 more|arXiv (Cornell University)|Nov 15, 2012

Sparse and Compressive Sensing Techniques被引用数 4

ひとこと要約

本稿では、時間的に変化する背景（構造的ノイズ）に汚染されたスパース信号（例：動いている物体を含む動画）のリアルタイム復元を目的とした再帰的ロバストPCA手法、ReProCS-NSを提案する。背景がゆっくり変化するが、密度が高く低ランクであると仮定し、未推定の部分空間成分の密度を仮定することで、信号の大きさがノイズに比べて小さいという困難な状況下でも、高確率でスパース信号の正確なサポート回復と有界な再構成誤差を達成する。

ABSTRACT

This work studies the recursive robust principal components' analysis(PCA) problem. Here, "robust" refers to robustness to both independent and correlated sparse outliers. If the outlier is the signal-of-interest, this problem can be interpreted as one of recursively recovering a time sequence of sparse vectors, St, in the presence of large but structured noise, Lt. The structure that we assume on Lt is that Lt is dense and lies in a low dimensional subspace that is either fixed or changes "slowly enough". A key application where this problem occurs is in video surveillance where the goal is to separate a slowly changing background (Lt) from moving foreground objects (St) on-the-fly. To solve the above problem, we introduce a novel solution called Recursive Projected CS (ReProCS). Under mild assumptions, we show that, with high probability (w.h.p.), ReProCS can exactly recover the support set of St at all times; and the reconstruction errors of both St and Lt are upper bounded by a time-invariant and small value at all times.

研究の動機と目的

• 背景（構造的ノイズ）がゆっくり変化するが、密度が高く低ランクである時間系列データにおける再帰的ロバストPCAの課題に対処すること。
• 大規模で構造的な背景ノイズによって汚染された状態でも、リアルタイムにスパースフォアグラウンド信号（例：動画内の移動物体）を復元すること。
• 部分空間変化モデルと再帰的推定を活用することでバッチ処理を回避し、オンライン処理を可能にすること。
• やや厳しい統計的仮定のもとでも、スパース信号の正確なサポート回復と有界な再構成誤差を保証すること。
• ゆっくりと変化する低ランクノイズとスパース外れ値が存在する状況下での性能に理論的保証を与えること。

提案手法

• 再帰的プロジェクション圧縮センシング（ReProCS）フレームワークを、新規の部分空間変化モデル仮定に基づいて拡張する。
• 新しいデータが到着する度に、低ランク背景部分空間 $ L_t $ を再帰的に推定し、逐次的に更新する。
• 部分空間 $ L_t $ がゆっくり変化する低次元部分空間に位置すると仮定し、その構造的性質を活用した修正されたスパース復元手順を適用する。
• 未推定部分空間成分の部分空間に密度仮定を導入し、直交補空間に十分なエネルギーが存在することを保証することで、安定な復元を実現する。
• 集中不等式と行列摂動理論を用いて、部分空間と信号復元における推定誤差を有界化する。
• 時間不変の誤差境界フレームワークを用い、$ S_t $ および $ L_t $ の再構成における安定性と収束性を保証する。

実験結果

リサーチクエスチョン

• RQ1 大規模で構造的なノイズ下でも、スパース信号の正確なサポート回復を達成できる再帰的ロバストPCAは可能か？
• RQ2 提案手法は、時間経過に伴って $ S_t $ および $ L_t $ の両方の再構成誤差を有界に保つための条件は何か？
• RQ3 部分空間 $ L_t $ の未推定部分の密度は、復元性能にどのように影響するか？
• RQ4 部分空間 $ L_t $ が時間とともにゆっくり変化する場合、高確率での復元が保証可能か？
• RQ5 スパース信号 $ S_t $ のサポートの変化が、再帰的復元の安定性と精度に与える影響は何か？

主な発見

• 未推定部分空間成分が十分に密度がある限り、高確率で、すべての時刻においてスパース信号 $ S_t $ の正確なサポート回復が達成される。
• $ S_t $ および $ L_t $ の再構成誤差は、時間に依存せず小さな値で有界であり、長期的な安定性が保証される。
• 信号の大きさが背景 $ L_t $ に比べて小さい場合でも、誤差が有界に保たれ、従来の外れ値検出に基づく手法の限界を克服する。
• シミュレーション結果から、$ S_t $ が数フレームごとにサポートに変化があれば、密度仮定が成立することが確認され、本手法の実用的妥当性が裏付けられる。
• 理論的解析により、誤差境界は部分空間の変化速度、信号対ノイズ比、および背景部分空間の固有値特性に依存することが示された。
• 特にオンライン動画監視応用において、小さな振幅のスパース信号と大きな構造的ノイズが存在する状況で、従来の再帰的ロバストPCA手法を上回る性能を発揮する。