[論文レビュー] Robust PCA and Robust Subspace Tracking.

Namrata Vaswani, Thierry Bouwmans+2 more|arXiv (Cornell University)|Nov 26, 2017

Structural Health Monitoring Techniques被引用数 5

ひとこと要約

本論文は、外れ値による汚染を受けたデータに対する頑健なPCAおよび部分空間追跡のチュートリアルを提示し、スパースおよび密度の高い汚染に耐えるように強化されたSVDベースの手法を提案する。外れ値が存在する状況下でも、証明可能に正しく、計算的に効率的な動的低ランク近似のためのアルゴリズムを提供する。

ABSTRACT

Principal Components Analysis (PCA) is one of the most widely used dimension reduction techniques. Given a matrix of clean data, PCA is easily accomplished via singular value decomposition (SVD) on the data matrix. While PCA for relatively clean data is an easy and solved problem, it becomes much harder if the data is corrupted by even a few outliers. The reason is that SVD is sensitive to outliers. In today's big data age, since data is often acquired using a large number of inexpensive sensors, outliers are becoming even more common. This harder problem of PCA for outlier corrupted data is called Often, for long data sequences, e.g., long surveillance videos, if one tries to use a single lower dimensional to represent the data, the required dimension may end up being quite large. For such data, a better model is to assume that it lies in a low-dimensional that can change over time, albeit gradually. The problem of a (slowly) changing over time is often referred to as subspace tracking or PCA. The problem of it in the presence of outliers can thus be called either robust tracking or PCA. This article provides a comprehensive tutorial-style overview of the and dynamic PCA problems and solution approaches, with an emphasis on simple and provably correct approaches.

研究の動機と目的

• 外れ値による汚染によって著しく破壊される標準的なSVDベースの手法に対処するPCAの挑戦に取り組む。
• 外れ値が存在する中でゆっくりと変化する低次元部分空間を追跡するための頑健な手法を開発する。
• 大規模データに適した、単純で証明可能に正しいアルゴリズムを提供する、頑健なPCAおよび動的部分空間追跡のためのもの。
• 監視映像やセンサーネットワークなど、外れ値が一般的に見られる実世界のシナリオにおける実用的応用に焦点を当てる。

提案手法

• 標準的なSVDを頑健な低ランク近似に置き換えるために、頑健な最適化フレームワークを用いることで、外れ値の影響を最小限に抑える。
• 核ノルムの最小化を用いて低ランク成分とスパース成分に分解することで、頑健な主成分分析（RPCA）を適用する。
• 低ランク部分空間推定を段階的に更新する再帰的アルゴリズムを導入し、頑健性を維持する。
• SVDが直交変換に対して不変であることに着目し、数値的安定性と収束保証を確保する。
• 外れ値による大きな偏差の影響を低減するための頑健なコスト関数を組み込む。
• 汚染パターンに関する特定の仮定の下で、回復精度に関する理論的保証を有するアルゴリズムを設計する。

実験結果

リサーチクエスチョン

• RQ1 高次元データストリームにおいて、スパースおよび密度の高い外れ値に対してPCAをどのようにして頑健にすることができるか？
• RQ2 外れ値が存在する中で、ゆっくりと変化する低ランク構造を正確に回復できる条件は何か？
• RQ3 SVDベースの手法は、汚染の影響を受けても、正確性と効率性を維持するためにどのように適合させられるか？
• RQ4 動的状況下における頑健な低ランク行列回復について、理論的保証は何か？

主な発見

• 提案された頑健なPCA手法は、スパースまたは密度の高い外れ値が含まれるデータでも、元の低ランク構造を効果的に回復する。
• 頑健な部分空間追跡アルゴリズムは、監視映像などの長時間のシーケンスにおいても、時間経過に伴う正確な部分空間推定を維持し、安定した性能を示す。
• 理論的分析により、汚染のスパarsityおよび分布に関する弱い仮定のもとで、アルゴリズムが正確な回復を達成することが確認された。
• 計算的に効率的でスケーラブルなため、大規模なデータストリームのリアルタイム処理が可能である。
• 核ノルムの最小化の使用により、低ランク成分とスパース成分への頑健な分解が可能となり、回復の忠実度が向上する。
• 実験的結果により、外れ値が混入したデータの処理において、標準PCAおよびベースラインの頑健な手法よりも優れた性能を示した。