[논문 리뷰] A Submodule Clustering Method for Multi-way Data by Sparse and Low-Rank Representation

Xinglin Piao, Yongli Hu외 3명|arXiv (Cornell University)|2016. 01. 02.

Face and Expression Recognition참고 문헌 18인용 수 7

한 줄 요약

이 논문은 t-곱 연산자를 통해 희소하고 낮은 질서의 텐서 표현을 사용하여 다중 방향 데이터를 위한 새로운 서브모듈 클러스터링 방법을 제안한다. 벡터화 없이도 본질적인 데이터 구조를 유지하며, 합성, 영상, 영상 데이터셋에서 최신 기법들인 SSC, LRR, SSmC보다 뛰어난 클러스터링 성능을 달성한다.

ABSTRACT

A new submodule clustering method via sparse and low-rank representation for multi-way data is proposed in this paper. Instead of reshaping multi-way data into vectors, this method maintains their natural orders to preserve data intrinsic structures, e.g., image data kept as matrices. To implement clustering, the multi-way data, viewed as tensors, are represented by the proposed tensor sparse and low-rank model to obtain its submodule representation, called a free module, which is finally used for spectral clustering. The proposed method extends the conventional subspace clustering method based on sparse and low-rank representation to multi-way data submodule clustering by combining t-product operator. The new method is tested on several public datasets, including synthetical data, video sequences and toy images. The experiments show that the new method outperforms the state-of-the-art methods, such as Sparse Subspace Clustering (SSC), Low-Rank Representation (LRR), Ordered Subspace Clustering (OSC), Robust Latent Low Rank Representation (RobustLatLRR) and Sparse Submodule Clustering method (SSmC).

연구 동기 및 목표

• 기존의 부분공간 클러스터링 방법들이 다중 방향 데이터를 벡터화해야 하는 한계를 해결하기 위해.
• 이미지 및 영상 시퀀스와 같은 다중 방향 데이터의 자연스러운 텐서 형식을 유지하는 클러스터링 프레임워크를 개발하기 위해.
• t-곱 연산자를 사용하여 텐서 데이터에서 서브모듈 클러스터링에 희소성과 낮은 질서의 표현을 확장하기 위해.
• 텐서 표현에서 희소성과 낮은 질서의 구조를 활용하여 클러스터링 정확도를 향상시키기 위해.

제안 방법

• 다양한 방향의 데이터를 벡터화하지 않고 텐서로 표현하여 자연스러운 다차원 구조를 유지한다.
• t-곱 연산자를 사용한 텐서 희소 및 낮은 질서의 표현 모델을 도입하여 희소성과 낮은 질서의 특성을 모두 포착한다.
• 결과로 도출된 표현은 '자유 모듈(free module)'으로 불리며, 데이터의 구조적이고 저차원의 부분공간 표현으로 기능한다.
• 자유 모듈은 스펙트럴 클러스터링의 입력으로 사용되어 데이터 내의 서브모듈을 식별한다.
• t-곱 연산자는 텐서에서 대수적 연산을 가능하게 하여 희소 및 낮은 질서의 구성 요소를 효율적으로 계산할 수 있도록 한다.
• 데이터 재구성 과정을 피함으로써 이미지 및 영상 데이터에 내재된 공간적 및 시간적 관계를 유지한다.

실험 결과

연구 질문

• RQ1 벡터화된 접근 방식과 비교해 볼 때, 텐서 기반의 희소 및 낮은 질서의 표현이 다중 방향 데이터의 서브모듈 클러스터링 성능을 향상시킬 수 있는가?
• RQ2 t-곱 연산자의 통합이 다중 방향 데이터의 클러스터링을 위한 표현을 어떻게 향상시키는가?
• RQ3 자연스러운 텐서 구조를 유지할 경우, 기존의 벡터화된 부분공간 클러스터링 방법보다 더 나은 클러스터링 성능를 달성할 수 있는가?
• RQ4 실제 다중 방향 데이터에서 최신 기법들인 SSC, LRR, SSmC와 비교해 본다면, 제안된 방법은 어떻게 성능을 내는가?

주요 결과

• 제안된 방법은 합성 다중 방향 데이터에서 SSC, LRR, OSC, RobustLatLRR, SSmC보다 클러스터링 정확도에서 뛰어난 성능을 보였다.
• 영상 시퀀스 데이터셋에서는 모든 비교 대비 최신 기법들보다 더 높은 클러스터링 정확도를 달성했다.
• 장난감 이미지 데이터셋에서는 클러스터링 과정에서 구조적 관계를 더 잘 유지하는 데서 뛰어난 성능를 보였다.
• 벡터화 없이 텐서 표현을 사용할 경우, 더 견고하고 정확한 서브모듈 클러스터링 결과를 도출할 수 있었다.