[논문 리뷰] Progressive Cluster Purification for Unsupervised Feature Learning

Yifei Zhang, Chang Liu외 4명|arXiv (Cornell University)|2020. 07. 06.

Domain Adaptation and Few-Shot Learning참고 문헌 34인용 수 5

한 줄 요약

이 논문은 점진적 클러스터 정제(Progressive Cluster Purification, PCP)를 제안하며, 이는 점진적인 클러스터 확장과 노이즈 필터링을 통해 반복적으로 개선되는 가짜 레이블을 통해 군집 기반 표현 학습을 향상시키는 새로운 비지도 특징 학습 방법이다. 클러스터 수를 시간이 지남에 따라 줄이고, 신뢰할 수 없고 불안정한 샘플을 필터링함으로써 클러스터를 정제함으로써, ImageNet-100, CIFAR-100 및 객체 검출 벤치마크에서 최신 기술 수준(SOTA) 성능을 달성하며, MoCo 및 AND와 같은 기존 방법들보다도 뚜렷한 격차를 확보한다.

ABSTRACT

In unsupervised feature learning, sample specificity based methods ignore the inter-class information, which deteriorates the discriminative capability of representation models. Clustering based methods are error-prone to explore the complete class boundary information due to the inevitable class inconsistent samples in each cluster. In this work, we propose a novel clustering based method, which, by iteratively excluding class inconsistent samples during progressive cluster formation, alleviates the impact of noise samples in a simple-yet-effective manner. Our approach, referred to as Progressive Cluster Purification (PCP), implements progressive clustering by gradually reducing the number of clusters during training, while the sizes of clusters continuously expand consistently with the growth of model representation capability. With a well-designed cluster purification mechanism, it further purifies clusters by filtering noise samples which facilitate the subsequent feature learning by utilizing the refined clusters as pseudo-labels. Experiments on commonly used benchmarks demonstrate that the proposed PCP improves baseline method with significant margins. Our code will be available at https://github.com/zhangyifei0115/PCP.

연구 동기 및 목표

• 군집 기반 비지도 특징 학습 방법에서 클러스터 내에 존재하는 클래스 비일관성 샘플(노이즈)으로 인한 한계를 해결하기 위해.
• 사전에 클러스터 수에 대한 지식이 없이도 반복적 군집화 과정에서 노이즈 영향을 체계적으로 줄임으로써 특징의 분류 가능성을 향상시키기 위해.
• 모델 표현 능력을 향상시키면서도 안정적이고 신뢰할 수 있는 가짜 레이블을 유지하는 자기 지도형 점진적 훈련 전략을 개발하기 위해.
• 일반 및 미세 분류 작업 모두에서 DeepCluster, Instance Recognition 및 Anchor Neighbourhood Discovery와 같은 기존 방법들을 능가하기 위해.

제안 방법

• 진행적 군집화(Progressive Clustering, PC)는 샘플 수에서 진짜 클래스 수로 점차 클러스터 수를 줄이며, 모델 표현 성장과 함께 클러스터 크기를 확장한다.
• 클러스터 정제(Cluster Purification, CP)는 이중 단계의 노이즈 필터링을 적용한다: 신뢰할 수 없는 샘플 필터링은 클러스터 중심에서 멀리 떨어진 인스턴스를 제거하고, 불안정한 샘플 필터링은 투표 메커니즘을 사용해 일관성 없는 샘플을 재할당한다.
• 초기 군집화 단계에서 네트워크가 저수준 특징에 집중하는 것을 방지하기 위해 웜업 훈련 단계를 도입한다.
• 정제된 클러스터에서 유도된 가짜 레이블을 사용해 특징 추출기를 자기지도 학습 방식으로 훈련함으로써 점진적으로 특징 표현을 정교화한다.
• 이 방법은 ResNet18 또는 AlexNet 백본을 사용해 엔드 투 엔드로 구현되며, 최종 레이어의 특징을 대상으로 선형 분류기 및 k-NN를 사용해 평가된다.
• 프레임워크는 다중 라운드에 걸쳐 반복적으로 적용되며, 각 에포크마다 업데이트된 특징에 기반해 클러스터 할당을 갱신한다.

실험 결과

연구 질문

• RQ1 점진적 클러스터 확장은 클러스터 내 노이즈 오염을 줄여 비지도 특징의 분류 가능 품질을 향상시킬 수 있는가?
• RQ2 신뢰할 수 없고 불안정한 샘플 필터링을 통해 반복적으로 클러스터 정제를 수행하면 가짜 레이블의 신뢰도가 어떻게 향상되는가?
• RQ3 기존의 DeepCluster 및 Instance Recognition과 같은 군집 기반 비지도 학습 방법들에 비해 PCP는 표준 벤치마크에서 얼마나 뛰어나게 성능을 내는가?
• RQ4 제안된 방법은 객체 검출 및 미세 분류와 같은 후행 작업으로 일반화되는가?

주요 결과

• AlexNet을 사용한 ImageNet-100에서 PCP는 k-NN를 사용해 50.7%의 top-1 정확도를 기록했으며, 선형 분류기 사용 시 56.9%를 달성하여 MoCo보다 각각 0.6%와 1.5% 높은 성능을 보였다.
• CIFAR-100에서 PCP는 5라운드 훈련 후 87.3%의 정확도를 기록했으며, AND를 1% 뛰어넘어 비지도 설정에서 강력한 일반화 성능을 입증했다.
• CUB-200-2011에서의 미세 분류 작업에서 PCP는 16.9%의 정확도를 기록했으며, IR에 비해 5.3%, DC에 비해 3.8%, AND에 비해 2.5% 높은 성능을 보였다.
• PASCAL VOC 2007에서의 객체 검출 작업에서 PCP는 39.8%의 mAP를 기록했으며, AND를 2.9% 뛰어넘어 후행 작업으로의 전이 능력이 뛰어나다는 것을 보였다.
• 시각화 결과는 PCP 특징가 배경 노이즈가 더 적고 전경 객체와 더 안정적이고 일관된 경향을 보이는 반면, IR 및 DC 특징는 더 많은 배경 노이즈를 포함하고 있음을 보여준다.
• 이 방법은 초기화에 대해 강건하며, 클러스터 수에 대한 사전 지식이 필요 없어 신뢰할 수 있고 효율적인 훈련이 가능하다.