[论文解读] Tensor Sparse and Low-Rank based Submodule Clustering Method for Multi-way Data

Xinglin Piao, Yongli Hu+4 more|arXiv (Cornell University)|Jan 2, 2016

Face and Expression Recognition参考文献 15被引用 8

一句话总结

本文提出了一种基于t-积的张量稀疏低秩表示方法，用于多路数据的子模块聚类，通过使用张量建模而非向量化来保留内在结构。与SSC、LRR和SSmC等最先进方法相比，该方法在合成数据、视频和图像数据集上均实现了更优的聚类性能。

ABSTRACT

A new submodule clustering method via sparse and low-rank representation for multi-way data is proposed in this paper. Instead of reshaping multi-way data into vectors, this method maintains their natural orders to preserve data intrinsic structures, e.g., image data kept as matrices. To implement clustering, the multi-way data, viewed as tensors, are represented by the proposed tensor sparse and low-rank model to obtain its submodule representation, called a free module, which is finally used for spectral clustering. The proposed method extends the conventional subspace clustering method based on sparse and low-rank representation to multi-way data submodule clustering by combining t-product operator. The new method is tested on several public datasets, including synthetical data, video sequences and toy images. The experiments show that the new method outperforms the state-of-the-art methods, such as Sparse Subspace Clustering (SSC), Low-Rank Representation (LRR), Ordered Subspace Clustering (OSC), Robust Latent Low Rank Representation (RobustLatLRR) and Sparse Submodule Clustering method (SSmC).

研究动机与目标

• 为了解决现有子空间聚类方法将多路数据重塑为向量时丢失内在结构信息的局限性。
• 开发一种保持多路数据（如图像和视频序列）自然张量结构的聚类框架。
• 将稀疏和低秩表示技术扩展到基于t-积算子的张量子模块聚类。
• 通过在张量域中利用稀疏性和低秩性，提升多路数据的聚类准确率。
• 在真实世界的多路数据集（包括视频序列和图像数据）上验证该方法的有效性。

提出的方法

• 该方法将多路数据建模为张量，而非将其重塑为向量，以保留其自然的多维结构。
• 提出了一种张量稀疏低秩表示模型，联合强制张量表示的稀疏性和低秩性。
• 使用t-积算子将基于矩阵的稀疏低秩表示推广到张量域，实现结构化分解。
• 所得表示被称为“自由模”，能够捕捉数据的内在子模块结构。
• 对自由模表示应用谱聚类以完成最终聚类。
• 使用交替方向乘子法（ADMM）框架求解优化问题。

实验结果

研究问题

• RQ1 与向量化方法相比，基于张量的稀疏低秩表示模型是否能提升多路数据的子模块聚类性能？
• RQ2 t-积算子的使用在聚类任务中如何增强对多路数据结构的建模能力？
• RQ3 所提出的方法是否在多路数据上优于最先进子空间聚类方法（如SSC、LRR和SSmC）？
• RQ4 保留自然张量结构在多大程度上提升了视频和图像数据集的聚类准确率？
• RQ5 该方法对多路数据（如视频序列）中的噪声和变化具有多强的鲁棒性？

主要发现

• 在合成多路数据上，该方法的聚类准确率高于SSC、LRR、OSC、RobustLatLRR和SSmC。
• 在视频序列数据集上，由于张量表示，该方法在捕捉时空子结构方面表现出更优性能。
• 在玩具图像数据集上，该方法通过避免向量化有效保留了结构模式。
• 基于t-积的张量方法相比基于矩阵的对应方法，能够实现更精确的子模块表示。
• 实验结果证实，保持自然数据结构可带来更优的聚类结果。
• 该方法在多个基准数据集上均表现出一致的性能提升，表明其具有鲁棒性和泛化能力。