[論文レビュー] Exact Subspace Segmentation and Outlier Detection by Low-Rank Representation

Guangcan Liu, Huan Xu+1 more|arXiv (Cornell University)|Sep 8, 2011

Sparse and Compressive Sensing Techniques参考文献 28被引用数 46

ひとこと要約

本稿では、ランクと部分空間数が未知である複数の部分空間から抽出されたデータにおける正確な部分空間セグメンテーションおよび外れ値検出のため、低ランク表現（LRR）を提案する。核ノルムを最小化する凸最適化問題と汚損の混合$$\ell_{2,1}$$ノルムを解くことで、真のデータの行空間を正確に回復し、外れ値を同定する。これにより、緩い条件下でも同時に正確なセグメンテーションと検出が保証される。

ABSTRACT

In this work, we address the following matrix recovery problem: suppose we are given a set of data points containing two parts, one part consists of samples drawn from a union of multiple subspaces and the other part consists of outliers. We do not know which data points are outliers, or how many outliers there are. The rank and number of the subspaces are unknown either. Can we detect the outliers and segment the samples into their right subspaces, efficiently and exactly? We utilize a so-called {\em Low-Rank Representation} (LRR) method to solve this problem, and prove that under mild technical conditions, any solution to LRR exactly recovers the row space of the samples and detect the outliers as well. Since the subspace membership is provably determined by the row space, this further implies that LRR can perform exact subspace segmentation and outlier detection, in an efficient way.

研究の動機と目的

• 部分空間の数、そのランク、および外れ値の特定が未知である状況における部分空間セグメンテーションと外れ値検出の課題に対処すること。
• 効率的かつ正確に、同時にデータを正しい部分空間にセグメンテーションし、外れ値を検出する手法を開発すること。
• 低ランク表現（LRR）の定式化が、真のデータの行空間を正確に回復し、汚損の列サポートを同定できることを証明すること。
• 弱い技術的条件下でもLRRの理論的保証を確立し、先行するRPCA手法と差別化すること。

提案手法

• 問題を行列分解$\displaystyle X = X_0 + C_0$として定式化し、$X_0$は低ランクで、$C_0$は列スパースである。
• 凸最適化問題$\displaystyle \min_{Z,C} \|Z\|_* + \lambda\|C\|_{2,1}$を解くことを提案する。制約条件は$X = XZ + C$であり、これを低ランク表現（LRR）と呼ぶ。
• 表現行列$Z$における低ランク構造を促進するために核ノルム$\|\cdot\|_*$を用い、外れ値をモデル化するため、$\ell_{2,1}$ノルム$\|\cdot\|_{2,1}$を用いて$C$における列方向のスパarsityを誘導する。
• 最適解$Z^*$が$X_0$の行空間を回復することを示し、これが正しい部分空間セグメンテーションを一意に決定することを示す。
• $C^*$の列サポートが外れ値を特定することを示し、これにより同時にセグメンテーションと検出が可能になる。
• 射影演算子を用いて問題を分析し、部分空間の独立性および非一貫性に基づいた回復条件を確立する。

実験結果

リサーチクエスチョン

• RQ1 部分空間の数やランクが未知である場合、LRRは複数の部分空間から抽出されたデータの行空間を正確に回復できるか？
• RQ2 外れ値の数や場所を事前に知らない状況下でも、LRRの定式化が外れ値を正確に同定できる条件は何か？
• RQ3 LRRが行空間を回復する能力が正確な部分空間セグメンテーションを保証する仕組みは何か？また、PCA や RPCA といった列空間に基づく手法とはどのように異なるか？
• RQ4 なぜLRRは、行方向の汚損と複数の部分空間構造を扱う点で、既存のRPCA手法よりも理論的に優れているのか？
• RQ5 LRRフレームワークは、データ行列$X$や単位行列$I$を超えた一般化された辞書行列に対しても拡張可能か？

主な発見

• LRRは緩い条件下でも正確な部分空間セグメンテーションと外れ値検出を達成し、行空間および列サポート回復の理論的保証を有する。
• Yale-Caltechデータセットでは、LRRは86.13%のセグメンテーション精度（ACC）を達成し、PCA（77.15%）、RPCA 1（82.97%）、RPCA 2,1（83.72%）を上回った。
• 外れ値検出において、LRRはAUC 0.9927を達成し、RPCA 2,1（0.9863）やRPCA 1（0.9819）を顕著に上回り、優れた検出性能を示した。
• $$X_0$$の行空間は正しいセグメンテーションを一意に決定する。LRRはこの空間を理論的に正確に回復するため、セグメンテーションに理論的に妥当な手法である。
• LRRはPCA や RPCA よりも優れている。なぜなら、LRRはセグメンテーションと直接関連する行空間回復を標的としており、PCA や RPCA は列空間を標的としており、複数の部分空間データには不適切だからである。
• 本手法は、部分空間のランクや数が未知であってもロバストであり、スパースな汚損が存在するデータに対しても効果的に機能することが、実世界の画像データセットを用いた検証で確認された。