[論文レビュー] Noisy Sparse Subspace Clustering

Yu-Xiang Wang, Huan Xu|arXiv (Cornell University)|Sep 5, 2013

Sparse and Compressive Sensing Techniques参考文献 45被引用数 81

ひとこと要約

本稿では、敵対的ノイズおよびランダムノイズの下でも部分空間クラスタリングに対して理論的に有効であることを保証する修正されたスパース部分空間クラスタリング（SSC）アルゴリズムを提案する。ノイズありデータへの理論的保証を拡張することで、データ汚染が一般的な実世界応用におけるSSCの成功を裏付ける。

ABSTRACT

This paper considers the problem of subspace clustering under noise. Specifically, we s-tudy the behavior of Sparse Subspace Clustering (SSC) when either adversarial or random noise is added to the unlabelled input data points, which are assumed to lie in a u-nion of low-dimensional subspaces. We show that a modified version of SSC is provably effective in correctly identifying the underlying subspaces, even with noisy data. This extends theoretical guarantee of this algorithm to the practical setting and provides justification to the success of SSC in a class of real applications. 1.

研究の動機と目的

• 実世界のノイズありデータに適用されたSSCの理論的理解のギャップを埋めること。
• 低次元部分空間の和集合に位置するラベルなしデータポイントに対して、敵対的ノイズおよびランダムノイズの下でのSSCの挙動を分析すること。
• ノイズが存在しても正しい部分空間の同定を維持できるように、SSCの変種を設計すること。
• 実応用におけるデータ汚染の下でSSCの経験的成功を理論的に裏付けること。

提案手法

• ノイズあり入力データポイントを処理しつつ、スパース表現の性質を保つように修正されたSSC定式化を導入する。
• スパース最適化を活用し、ノイズで汚染された場合でも、各データポイントを他の点の線形結合として再構築する。
• 理論的分析により、修正されたSSCがノイズ下でも真の下位部分空間を回復可能であることを確立する。
• スパース表現におけるロバスト性を向上させるために、ノイズに配慮した制約または正則化を導入する。
• 圧縮センシングおよび行列摂動理論の道具を用いて理論的保証を導出する。
• 修正されたSSCは、ノイズ観測に適応しつつも、スパース表現の基本的原則を維持する。

実験結果

リサーチクエスチョン

• RQ1 データポイントが敵対的ノイズで汚染された場合、SSCは正しく部分空間を同定できるか？
• RQ2 ランダムノイズはSSCの性能を劣化させるか？ もしそうなら、それを緩和できるか？
• RQ3 修正されたSSCはノイズ下でも理論的保証を維持できるか？
• RQ4 ノイズ下での部分空間回復精度において、修正されたSSCは標準SSCと比べてどのように異なるか？
• RQ5 ノイズ下でも真の部分空間を回復できるための理論的条件は何か？

主な発見

• 修正されたSSCアルゴリズムは、データポイントが敵対的ノイズまたはランダムノイズで汚染されても、正しく部分空間を回復できることが理論的に保証される。
• 理論的分析により、修正されたSSCがノイズ下でもロバストであることが確認され、実用的状況への適用範囲が拡張される。
• ノイズの大きさおよび部分空間構造に関する緩い仮定の下で、アルゴリズムの性能が保証される。
• 結果は、データが本質的にノイズを含む実世界の応用においてSSCの経験的成功を裏付ける。
• 本研究は、ノイズ環境下におけるSSCの理論的保証と実践的性能の間の明確なリンクを確立する。