[論文レビュー] Real-time Robust Principal Components' Pursuit

Chenlu Qiu, Namrata Vaswani|arXiv (Cornell University)|Oct 4, 2010

Sparse and Compressive Sensing Techniques参考文献 16被引用数 10

ひとこと要約

本稿では、時間的相関を考慮したスパース成分のモデル化により、動的背景とスパースな移動物体をリアルタイムに効率的に分離するオンラインアルゴリズムであるReal-time Robust Principal Components' Pursuit (RR-PCP) を提案する。この手法は、i.i.d. なスパース外れ値や固定された主成分を仮定しないリアルタイムで因果的な推定を可能にするため、圧縮センシングと時間的相関モデリングを組み合わせる。

ABSTRACT

In the recent work of Candes et al, the problem of recovering low rank matrix corrupted by i.i.d. sparse outliers is studied and a very elegant solution, principal component pursuit, is proposed. It is motivated as a tool for video surveillance applications with the background image sequence forming the low rank part and the moving objects/persons/abnormalities forming the sparse part. Each image frame is treated as a column vector of the data matrix made up of a low rank matrix and a sparse corruption matrix. Principal component pursuit solves the problem under the assumptions that the singular vectors of the low rank matrix are spread out and the sparsity pattern of the sparse matrix is uniformly random. However, in practice, usually the sparsity pattern and the signal values of the sparse part (moving persons/objects) change in a correlated fashion over time, for e.g., the object moves slowly and/or with roughly constant velocity. This will often result in a low rank sparse matrix. For video surveillance applications, it would be much more useful to have a real-time solution. In this work, we study the online version of the above problem and propose a solution that automatically handles correlated sparse outliers. The key idea of this work is as follows. Given an initial estimate of the principal directions of the low rank part, we causally keep estimating the sparse part at each time by solving a noisy compressive sensing type problem. The principal directions of the low rank part are updated every-so-often. In between two update times, if new Principal Components' directions appear, the "noise" seen by the Compressive Sensing step may increase. This problem is solved, in part, by utilizing the time correlation model of the low rank part. We call the proposed solution "Real-time Robust Principal Components' Pursuit".

研究の動機と目的

• スパース外れ値（例：移動物体）が時間的相関を示すリアルタイムの動画監視において、オフラインで実行される主成分 Pursuit (PCP) の制限を克服すること。
• 運動の相関性によりスパース行列が低ランクとなる場合に、標準的なPCPが失敗する問題を解消すること。
• 低ランク部分空間の基底を動的に更新しながら、リアルタイムでスパース成分を因果的に推定するオンラインアルゴリズムを開発すること。
• 時間的相関のあるスパース外れ値とゆっくり変化する主成分に対して、ロバストな性能を発揮すること。これは実用的な動画シーケンスで一般的な状況である。

提案手法

• 低ランク部分空間の事前推定を活用し、各時刻 $t$ におけるスパース成分 $S_t$ の因果的推定を、ノイズのある圧縮センシング定式化を用いて行う。
• スパースベクトル $S_t$ に対して時間的相関のある運動モデルを用い、サポートと値がゆっくりと変化することを仮定することで、圧縮センシング段階でのノイズを低減する。
• 低ランク部分の主成分基底 $U$ の推定を時間的に不変に保ちつつ、部分空間のずれに適応するため定期的に更新する。
• 残差 $\beta_t = \hat{P}_{t,\perp}^T L_t$ をモデル化し、予測値 $f\hat{\beta}_{t-1}$ を用いることで、圧縮センシング段階における有効なノイズを低減するノイズキャンセレーション技術を適用する。
• 運動モデルに基づくサポート更新戦略を統合し、修正CS技術を用いて将来の改善を可能にする。
• 低ランク成分の寄与を分離するために、直交射影 $\hat{P}_{t,\perp}$ を用い、ロバストなスパース回復を実現する。

実験結果

リサーチクエスチョン

• RQ1 動画監視における相関のあるスパース外れ値に対して、精度を保ちつつ因果的かつリアルタイムなロバストPCAを実現できるか？
• RQ2 一定速度で移動する物体などのスパース成分における時間的相関を活用することで、回復性能を向上させられるか？
• RQ3 非i.i.d. なスパース外れ値が標準的な主成分 Pursuit (PCP) の性能に与える影響は何か？ また、その影響をどのように軽減できるか？
• RQ4 完全な再計算を必要とせずに、オンライン環境で主成分基底を動的に更新する方法は何か？
• RQ5 低ランク成分の時間的相関モデルが、圧縮センシングにおける有効なノイズを低減し、スパース回復の精度を向上させられるか？

主な発見

• モンテカルロシミュレーションにおいて、RR-PCPはPCPや他のオンライン手法（例：PJ, RR-PCP-basic）と比較して、特に相関のあるスパース外れ値下で顕著に低い再構成誤差を達成する。
• ノイズキャンセレーションを施したRR-PCPのバージョンは、時間的相関を活用することで圧縮センシングにおける有効なノイズを低減し、より良好なスパース回復を実現する。
• $t > t_0 + 26$ の段階で、アルゴリズムは新たな主成分を正しく検出し、$\|\beta_t\|_2^2$ と $\|\beta_t - f\hat{\beta}_{t-1}\|_2^2$ の両方を低減することが確認された。これは推定性能の向上を示している。
• RR-PCPは1フレームあたり約1.7秒で実行され、リアルタイムアプリケーションに適している。一方、標準的なPCPは因果モード下で1フレームあたり200〜300秒を要する。
• 相関のある運動によりスパース行列 $S$ が低ランクとなる場合（標準PCPが失敗する状況）でも、本手法は依然として有効である。
• 将来、運動予測に基づくサポートモデルを統合することで、特に大きなスパースサポートに対して再構成誤差をさらに低減できる可能性がある。