[논문 리뷰] Self-supervised Discriminative Feature Learning for Multi-view Clustering.

Jie Xu, Yazhou Ren외 5명|arXiv (Cornell University)|2021. 03. 28.

Video Surveillance and Tracking Methods참고 문헌 46인용 수 5

한 줄 요약

이 논문은 다중 시각 클러스터링을 위한 자기지도 학습적 분류 특징 학습(SDMVC)을 제안한다. 이 방법은 깊이 신경망 오토인코더를 사용해 시각별 특징을 학습하고, 이를 통합하여 글로벌 특징을 생성하며, 자기지도 학습 기반의 가짜 레이블링을 통해 목표 분포를 통합한다. 이는 글로벌 분류 정보를 추출하고, 다양한 시각 간 일관된 클러스터 할당을 강제함으로써 클러스터링 성능을 향상시키며, 다양한 데이터셋에서 최신 기준 성능을 달성한다.

ABSTRACT

Multi-view clustering is an important research topic due to its capability to utilize complementary information from multiple views. However, there are few methods to consider the negative impact caused by certain views with unclear clustering structures, resulting in poor multi-view clustering performance. To address this drawback, we propose self-supervised discriminative feature learning for deep multi-view clustering (SDMVC). Concretely, deep autoencoders are applied to learn embedded features for each view independently. To leverage the multi-view complementary information, we concatenate all views' embedded features to form the global features, which can overcome the negative impact of some views' unclear clustering structures. In a self-supervised manner, pseudo-labels are obtained to build a unified target distribution to perform multi-view discriminative feature learning. During this process, global discriminative information can be mined to supervise all views to learn more discriminative features, which in turn are used to update the target distribution. Besides, this unified target distribution can make SDMVC learn consistent cluster assignments, which accomplishes the clustering consistency of multiple views while preserving their features' diversity. Experiments on various types of multi-view datasets show that SDMVC achieves state-of-the-art performance.

연구 동기 및 목표

• 다중 시각 클러스터링에서 클러스터링 구조가 명확하지 않은 시각의 악영향을 완화한다.
• 다양한 시각 간 상보적 정보를 활용해 클러스터링의 강건성을 향상시킨다.
• 클러스터 할당의 일관성을 유지하면서도 특징의 다양성을 보존한다.
• 반복적으로 특징 학습과 목표 분포를 개선하는 자기지도 학습 프레임워크를 개발한다.
• 다양한 다중 시각 데이터셋에서 최신 기준 성능을 달성한다.

제안 방법

• 각 개별 시각에 대해 깊이 신경망 오토인코더를 독립적으로 적용하여 임bedded 특징을 학습한다.
• 모든 시각의 임bedded 특징을 결합하여 노이즈 또는 모호한 시각의 영향을 완화하는 글로벌 특징을 형성한다.
• 자기지도 학습 방식으로 가짜 레이블을 생성하여 모든 시각 간 통합된 목표 분포를 구성한다.
• 통합된 목표 분포를 사용해 다중 시각 분류 특징 학습을 수행하여 특징의 분류 가능성을 향상시킨다.
• 개선된 특징을 사용해 반복적으로 목표 분포를 업데이트하여 일관성과 클러스터링 품질을 향상시킨다.
• 공통된 목표 분포를 통해 클러스터 할당을 정렬함으로써 시각 간 클러스터 일관성을 강제한다.

실험 결과

연구 질문

• RQ1 어떤 시각이 약한 또는 명확하지 않은 클러스터링 구조를 가질 경우 다중 시각 클러스터링은 어떻게 향상시킬 수 있는가?
• RQ2 글로벌 특징 통합이 저품질 시각의 악영향을 효과적으로 줄일 수 있는가?
• RQ3 자기지도 학습 기반 가짜 레이블링이 다중 시각 학습에서 특징의 분류 가능성을 얼마나 향상시킬 수 있는가?
• RQ4 통합된 목표 분포가 다양한 시각 간 클러스터링 일관성을 어떻게 향상시키는가?
• RQ5 제안된 방법이 벤치마크 다중 시각 클러스터링 데이터셋에서 최신 기준 성능을 달성할 수 있는가?

주요 결과

• SDMVC는 다양한 다중 시각 데이터셋에서 최신 기준 성능을 달성하며, 뛰어난 클러스터링 정확도를 보였다.
• 글로벌 특징 표현을 활용함으로써 클러스터링 구조가 명확하지 않은 시각의 악영향을 효과적으로 완화했다.
• 자기지도 학습 기반 가짜 레이블링을 통해 반복적 개선을 통해 더 분류 가능한 특징을 학습할 수 있었다.
• 통합된 목표 분포가 모든 시각 간 일관된 클러스터 할당을 성공적으로 강제했다.
• 높은 클러스터링 일관성을 달성하면서도 시각 간 특징의 다양성이 유지되었다.
• 실험 결과, SDMVC가 여러 벤치마크 데이터셋에서 기존 방법들을 능가함을 확인했다.