[論文レビュー] Achieving stable subspace clustering by post-processing generic clustering results

Duc-Son Pham, Ognjen Arandjelović+1 more|arXiv (Cornell University)|May 27, 2016

Face and Expression Recognition参考文献 43被引用数 4

ひとこと要約

本稿では、安定したランダムに抽出された部分空間を用いて誤分類された点を特定・再割り当てすることで、スパース部分空間クラスタリング（SSC）の結果を安定化・改善する後処理手法を提案する。残差誤差を計算し、保守的な主要近傍部分空間分類を適用することで、正しく割り当てられた点への影響を最小限に抑えつつ、クラスタリング誤差を顕著に低減する。

ABSTRACT

We propose an effective subspace selection scheme as a post-processing step to improve results obtained by sparse subspace clustering (SSC). Our method starts by the computation of stable subspaces using a novel random sampling scheme. Thus constructed preliminary subspaces are used to identify the initially incorrectly clustered data points and then to reassign them to more suitable clusters based on their goodness-of-fit to the preliminary model. To improve the robustness of the algorithm, we use a dominant nearest subspace classification scheme that controls the level of sensitivity against reassignment. We demonstrate that our algorithm is convergent and superior to the direct application of a generic alternative such as principal component analysis. On several popular datasets for motion segmentation and face clustering pervasively used in the sparse subspace clustering literature the proposed method is shown to reduce greatly the incidence of clustering errors while introducing negligible disturbance to the data points already correctly clustered.

研究の動機と目的

• 実世界のデータセット（モーショングラフ分類や顔認識クラスタリングなど）におけるスパース部分空間クラスタリング（SSC）のロバスト性と正確性を向上させること。
• デフォルトまたは最適化されていないハイパーパrameterによるSSCのパラメータ感度と最適でないクラスタリング結果の課題に対処すること。
• 元のアルゴリズムのコアを変更せずに、アプリケーションに依存しない汎用的な後処理技術を構築すること。
• 安定した部分空間推定と残差ベースの評価フレームワークを用いて、誤分類点の修正時に再割り当て誤差を最小限に抑えながら、正しく分類された点への影響を抑えること。

提案手法

• ノイズや外れ値に対して頑健であるように、各初期クラスタに対してデータ点のランダムサンプリングを用いて安定した部分空間を構築する。
• ℓpノルムを用いて各データ点と予備的部分空間間の残差誤差を計算し、適合度を評価する。
• 保守的なしきい値を用いて、誤りを防ぐために再割り当てを決定する主要近傍部分空間分類戦略を適用する。
• 正則化と安定性選択の原則を用いて部分空間推定を強化し、初期化に依存する感度を低減する。
• 任意のSSCバリアントの後処理ステップとして統合可能であり、元のクラスタリングパイプラインに変更を加える必要がない。
• ハイパーパrameter ηを用いて再割り当ての感度を制御し、保守的な設定により、過剰な補正よりも信頼性を優先する。

実験結果

リサーチクエスチョン

• RQ1 コアアルゴリズムを変更せずに、後処理手法がスパース部分空間クラスタリングのクラスタリング精度を向上させられるか？
• RQ2 ランダムサンプリングによる安定した部分空間推定は、誤分類されたデータ点を特定・修正するためにどれほど効果的か？
• RQ3 提案手法は、ベースラインのSSCおよびオラクルベースの部分空間知識と比較して、どの程度クラスタリング誤差を低減するか？
• RQ4 保守的な主要近傍部分空間分類戦略は、過剰補正を防ぎ、安定性を維持するためにどのように機能するか？
• RQ5 モーショングラフ分類や顔認識など、クラス数が異なる多様なデータセットに、本手法は一般化可能か？

主な発見

• ホプキンス155モーショングラフ分類データセットにおいて、提案手法はクラスタリング誤差を顕著に低減し、オラクル部分空間知識の性能境界に近づく。
• Yale Bデータセットでは、2クラスの場合、SSCの誤差6.25%がSSSで4.69%に低下し、3クラスでは8.33%から5.63%に低下する。
• PIEデータセットでは、2クラスの場合、SSCの誤差2.50%がSSSでも2.50%のまま変化せず、初期精度がすでに高いことから、保守的な挙動が裏付けられる。
• Yale Bにおける8クラスクラスタリングでは、4点（全128点中）が修正され、誤差は5.66%から4.88%に低下し、高クラス数でも有効性が示された。
• 安定した部分空間選択（SSS）が行う再割り当て数は、オラクル部分空間手法（OSS）と常に近い水準に保たれ、高い効率性を示している。
• 正規化相互情報量（NMI）は高い水準を維持し、Yale B（8クラス）ではSSSが0.9059 NMIを達成したのに対し、SSCは0.8866であった。これはクラスタリング品質の向上を示している。