[論文レビュー] Tensor Sparse and Low-Rank based Submodule Clustering Method for Multi-way Data

Xinglin Piao, Yongli Hu+4 more|arXiv (Cornell University)|Jan 2, 2016

Face and Expression Recognition参考文献 15被引用数 8

ひとこと要約

本稿では、t-積に基づくテンソルモデリングを用いてベクトル化に代えて内在構造を保持することで、マルチウェイデータにおけるサブモジュールクラスタリングのためのテンソルスパースかつ低ランク表現手法を提案する。この手法は、合成データ、動画、画像データにおいて、SSC、LRR、SSmCなどの最先端手法と比較して優れたクラスタリング性能を達成する。

ABSTRACT

A new submodule clustering method via sparse and low-rank representation for multi-way data is proposed in this paper. Instead of reshaping multi-way data into vectors, this method maintains their natural orders to preserve data intrinsic structures, e.g., image data kept as matrices. To implement clustering, the multi-way data, viewed as tensors, are represented by the proposed tensor sparse and low-rank model to obtain its submodule representation, called a free module, which is finally used for spectral clustering. The proposed method extends the conventional subspace clustering method based on sparse and low-rank representation to multi-way data submodule clustering by combining t-product operator. The new method is tested on several public datasets, including synthetical data, video sequences and toy images. The experiments show that the new method outperforms the state-of-the-art methods, such as Sparse Subspace Clustering (SSC), Low-Rank Representation (LRR), Ordered Subspace Clustering (OSC), Robust Latent Low Rank Representation (RobustLatLRR) and Sparse Submodule Clustering method (SSmC).

研究の動機と目的

• マルチウェイデータをベクトルに再形状することで生じる内在構造情報の損失を回避するための、既存の部分空間クラスタリング手法の限界を是正すること。
• 画像や動画シーケンスなどのマルチウェイデータの自然なテンソル構造を維持するクラスタリングフレームワークの開発。
• t-積演算子を用いてスパースかつ低ランク表現技術をテンソルベースのサブモジュールクラスタリングに拡張すること。
• テンソルドメインにおけるスパarsityと低ランク性を活用することで、マルチウェイデータのクラスタリング精度を向上させること。
• 実世界のマルチウェイデータセット（動画シーケンスや画像データを含む）における手法の有効性を検証すること。

提案手法

• マルチウェイデータをベクトルに再形状するのではなく、テンソルとしてモデル化することで、自然な多次元構造を保持する。
• テンソル表現にスパarsityと低ランク性を同時に強制するテンソルスパースかつ低ランク表現モデルを導入する。
• t-積演算子を用いて、行列ベースのスパースかつ低ランク表現をテンソルドメインに一般化し、構造的分解を可能にする。
• 得られた表現は「フリー・モジュール」と呼ばれるもので、データの内在的サブモジュール構造を捉える。
• 最終的なクラスタリングを実行するために、フリー・モジュール表現にスペクトルクラスタリングを適用する。
• 最適化問題は、交替方向乗数法（ADMM）フレームワークを用いて解く。

実験結果

リサーチクエスチョン

• RQ1 ベクトル化アプローチと比較して、テンソルベースのスパースかつ低ランク表現モデルは、マルチウェイデータにおけるサブモジュールクラスタリング性能を向上させることができるか？
• RQ2 t-積演算子の使用は、クラスタリングタスクにおけるマルチウェイデータ構造のモデリングをどのように向上させるか？
• RQ3 提案手法は、SSC、LRR、SSmCなどの最先端部分空間クラスタリング手法をマルチウェイデータで上回るか？
• RQ4 自然なテンソル構造を保持することで、動画および画像データにおけるクラスタリング精度はどの程度向上するか？
• RQ5 動画シーケンスなどのマルチウェイデータにおけるノイズや変動に対して、この手法はどの程度頑健か？

主な発見

• 提案手法は、合成マルチウェイデータにおいて、SSC、LRR、OSC、RobustLatLRR、SSmCと比較して高いクラスタリング精度を達成する。
• 動画シーケンスデータセットでは、テンソル表現のおかげで時間的・空間的サブ構造を効果的に捉える優れた性能を示す。
• おもちゃ画像データセットでは、ベクトル化を避けることで構造的パターンを効果的に保持する。
• t-積を用いたテンソルベースのアプローチは、行列ベースの対比手法と比較して、より正確なサブモジュール表現を可能にする。
• 実験結果から、自然なデータ構造を維持することでクラスタリングの結果が向上することが確認された。
• 複数のベンチマークデータセットにおいて一貫した性能向上を示しており、頑健性と一般化能力が裏付けられた。