[論文レビュー] Kernelized LRR on Grassmann Manifolds for Subspace Clustering

Boyue Wang, Yongli Hu+3 more|arXiv (Cornell University)|Jan 9, 2016

Sparse and Compressive Sensing Techniques参考文献 53被引用数 5

ひとこと要約

本稿では、部分空間をグラスマン多様体上の点としてモデル化し、非線形構造を捉えるためにカーネル化された低ランク表現（LRR）を提案する。この手法は、最先端の手法を上回り、複雑な交通データセットで82.21%の精度を達成し、閉形式解とADMM最適化を用いてノイズや非ガウス型外れ値に対して高い耐性を示す。

ABSTRACT

Low rank representation (LRR) has recently attracted great interest due to its pleasing efficacy in exploring low-dimensional sub- space structures embedded in data. One of its successful applications is subspace clustering, by which data are clustered according to the subspaces they belong to. In this paper, at a higher level, we intend to cluster subspaces into classes of subspaces. This is naturally described as a clustering problem on Grassmann manifold. The novelty of this paper is to generalize LRR on Euclidean space onto an LRR model on Grassmann manifold in a uniform kernelized LRR framework. The new method has many applications in data analysis in computer vision tasks. The proposed models have been evaluated on a number of practical data analysis applications. The experimental results show that the proposed models outperform a number of state-of-the-art subspace clustering methods.

研究の動機と目的

• ユークリッド空間に基づくLRRの非線形・高次元データへのモデル化における限界を是正するため、LRRをグラスマン多様体へ一般化すること。
• 部分空間の内在的幾何的性質を多様体埋め込みを用いて組み込むことで、クラスタリング性能の向上を図ること。
• 非線形関係を捉えつつ低ランク構造を保持するカーネル化LRRフレームワークの構築。
• 交通監視および画像セットクラスタリングを含む、実世界のコンピュータビジョンタスクへの手法の評価。
• 困難なデータセットにおける比較実験を通じて、ノイズおよび外れ値に対する耐性を実証すること。

提案手法

• 画像セットを、部分空間次元pと特徴次元nを持つグラスマン多様体G(p, n)上の点として表現する。
• 埋め込み関数を用いてグラスマン多様体の点を対称正定値行列に写像し、ユーグリッド空間での計算を可能にする。
• 埋め込みされた対称行列空間上で、核ノルム最小化を用いて低ランク表現モデルを定式化する。
• ガウスノイズを想定したGLRR-F（閉形式解を有する）と、非ガウス型外れ値を扱うADMM最適化を用いたGLRR-21を提案する。
• 非線形データ構造を扱えるように、カーネル関数を用いてLRRモデルをカーネル化したKGLRR-ccpに一般化する。
• 学習された係数行列をNCutスペクトルクラスタリングアルゴリズムに適用し、最終的なクラスタリング結果を取得する。

実験結果

リサーチクエスチョン

• RQ1 ユークリッド空間からグラスマン多様体へLRRを効果的に一般化することで、部分空間クラスタリングの性能向上が図れるか？
• RQ2 部分空間をグラスマン多様体上の点としてモデル化することで、高次元かつ非線形データに対するクラスタリング性能がどのように向上するか？
• RQ3 カーネル化が、非ガウス型ノイズおよび複雑なデータ分布下でのLRRベースクラスタリングの耐障害性および精度に与える影響は何か？
• RQ4 提案されたGLRR-FおよびGLRR-21モデルは、既存のLRRおよびSSC手法と比較して、クラスタリング精度および耐障害性においてどの程度優れているか？
• RQ5 実世界の動画ベース交通クラスタリングタスクにおいて、グラスマン多様体フレームワークはユークリッドベース手法をどの程度上回るか？

主な発見

• 提案手法KGLRR-ccpは、複雑なRoad Trafficデータセットで82.21%のクラスタリング精度を達成し、すべてのベースラインを上回った。
• Highway Trafficデータセットでは、KGLRR-ccpが82.21%の精度を達成し、次に優れた手法と比較して少なくとも15パーセンテージポイント高い結果を示した。
• GLRR-FはHighway Trafficデータセットで80.63%の精度を達成し、LRR（68.38%）およびSSC（62.85%）を著しく上回った。
• 天候や照明の変化といった環境変動があるデータセットにおいて、グラスマンに基づく手法（GLRR-F, KGLRR-ccp）は優れた耐障害性を示した。
• ユークリッドベース手法（SSC, LRR）が良好に機能する場合でも、グラスマンベースのモデルは一貫して優位性を維持しており、特に複雑な条件下で顕著であった。
• GLRR-Fの閉形式解により計算が効率的であり、ADMMに基づくGLRR-21は非ガウス型外れ値に対しても効果的に対処できた。