[논문 리뷰] GCFAgg: Global and Cross-view Feature Aggregation for Multi-view Clustering

Weiqing Yan, Yuanyang Zhang외 5명|arXiv (Cornell University)|2023. 05. 11.

Face and Expression Recognition인용 수 5

한 줄 요약

이 논문은 전역 및 크로스뷰 특징 집합을 통해 공통 표현을 향상시키고, 구조 지도형 대비 학습을 활용하여 뷰별 및 공통 특징을 정렬함으로써 다중 뷰 군집화 성능을 향상시키는 GCFAggMVC라는 새로운 다중 뷰 군집화 프레임워크를 제안한다. 이 방법은 샘플 간 유사도를 모델링하고 뷰 간 군집 일관성을 향상시킴으로써 완전한 및 불완전한 다중 뷰 군집화 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

Multi-view clustering can partition data samples into their categories by learning a consensus representation in unsupervised way and has received more and more attention in recent years. However, most existing deep clustering methods learn consensus representation or view-specific representations from multiple views via view-wise aggregation way, where they ignore structure relationship of all samples. In this paper, we propose a novel multi-view clustering network to address these problems, called Global and Cross-view Feature Aggregation for Multi-View Clustering (GCFAggMVC). Specifically, the consensus data presentation from multiple views is obtained via cross-sample and cross-view feature aggregation, which fully explores the complementary ofsimilar samples. Moreover, we align the consensus representation and the view-specific representation by the structure-guided contrastive learning module, which makes the view-specific representations from different samples with high structure relationship similar. The proposed module is a flexible multi-view data representation module, which can be also embedded to the incomplete multi-view data clustering task via plugging our module into other frameworks. Extensive experiments show that the proposed method achieves excellent performance in both complete multi-view data clustering tasks and incomplete multi-view data clustering tasks.

연구 동기 및 목표

• 기존의 깊이 강화 다중 뷰 군집화 방법들이 뷰별 융합과 샘플 수준의 대비 학습에 의존함으로써 샘플 간 구조적 관계를 효과적으로 활용하지 못하는 한계를 해결하기 위해.
• 모든 샘플 간 전역 유사도 관계를 통해 뷰별 표현의 노이즈와 중복을 줄이고 공통 표현을 학습함으로써.
• 구조 지도형 대비 학습 모듈을 활용해 뷰별 및 공통 표현을 정렬함으로써 군집 성능을 향상시키고, 군집 내 유사도를 우선시함으로써.
• 기존 프레임워크에 통합할 수 있는 유연한 모듈을 설계하여 불완전한 다중 뷰 데이터 군집화에 특화함을 목적으로 한다.

제안 방법

• 전체 샘플 간 전역 유사도 행렬을 학습하고 샘플 간 관계를 기반으로 공통 표현을 생성하기 위해 전역 및 크로스뷰 특징 집합(GCFAgg) 모듈을 설계하였다.
• 원본 입력 데이터를 재구성하기 위해 오토인코더 기반 인코더 네트워크를 사용하여 뷰별 표현을 먼저 학습하였다.
• 구조 지도형 대비 학습(SgCL) 모듈은 높은 구조적 유사도를 가진 샘플을 서로 긍정 쌍으로 간주하여 공통 표현과 뷰별 표현을 정렬한다. 이는 서로 다른 뷰 간에도 적용 가능하다.
• 구조적 관계가 낮은 샘플의 표현 간 유사도를 최소화함으로써 군집 일관성을 향상시켰다.
• 대부분의 표현 학습과 군집화를 동시에 최적화하기 위해 GCFAgg 및 SgCL 모듈을 엔드 투 엔드 학습 파이프라인에 통합하였다.
• 이 방법은 모듈식이며, 특히 불완전한 데이터 설정에서의 다중 뷰 군집화 프레임워크에 쉽게 통합될 수 있다.

실험 결과

연구 질문

• RQ1 모든 샘플 간 전역 샘플 간 유사도 관계가 다중 뷰 군집화에서 공통 표현 학습에 기여하는가?
• RQ2 샘플 수준의 대비 학습을 구조 지도형 대비 학습으로 대체함으로써 군집 내 표현을 더 잘 정렬함으로써 군집 성능 향상이 이루어지는가?
• RQ3 제안된 GCFAggMVC 프레임워크가 완전하고 불완전한 다중 뷰 군집화 작업 모두에서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ4 제안된 GCFAgg 모듈이 공통 표현에서 뷰 전용 노이즈와 중복을 얼마나 효과적으로 줄이는가?

주요 결과

• GCFAggMVC는 완전한 다중 뷰 군집화 벤치마크에서 최신 기술 수준의 성능을 달성하였으며, Prokaryotic에서 0.6225 ACC, CCV에서 0.3543 ACC, MNIST-USPS에서 0.9956 ACC를 기록하였다.
• 제거 실험 결과, GCFAgg 모듈을 제거하면 Prokaryotic에서 ACC가 18.22% 감소하고, CCV에서 14.21% 감소하며, MNIST-USPS에서 2.03% 감소하여, 노이즈 감소 및 표현 강화에 효과적임을 입증하였다.
• SgCL 모듈은 표준 대비 학습 대비 Prokaryotic에서 ACC 14.21% 향상, CCV에서 30.07% 향상하여 군집 일관성 유지 측면에서 뛰어난 성능을 보였다.
• t-SNE 시각화 결과, GCFAggMVC가 학습한 공통 특징는 연결된 뷰별 특징 또는 원본 표현보다 더 명확하고 잘 분리된 군집을 생성함을 확인하였다.
• 하이퍼파rameter λ와 τ에 대해 안정적인 성능을 보이며, 다양한 값 범위에서 유연한 성능을 확보하여 실용성과 탄력성을 입증하였다.
• 제거 실험 결과, GCFAgg 및 SgCL 요소 모두가 필수적임을 확인하였으며, 둘 중 하나를 제거할 경우 성능 저하가 심각하게 발생하였다.