[논문 리뷰] Unsupervised Deep Learning by Neighbourhood Discovery

Jiabo Huang, Qi Dong외 2명|arXiv (Cornell University)|2019. 04. 25.

Advanced Image and Video Retrieval Techniques인용 수 68

한 줄 요약

AND proposes Anchor Neighbourhood Discovery, an unsupervised method that learns discriminative features by progressively discovering class-consistent local neighbourhoods anchored to individual samples, enabling end-to-end training without labels.

ABSTRACT

Deep convolutional neural networks (CNNs) have demonstrated remarkable success in computer vision by supervisedly learning strong visual feature representations. However, training CNNs relies heavily on the availability of exhaustive training data annotations, limiting significantly their deployment and scalability in many application scenarios. In this work, we introduce a generic unsupervised deep learning approach to training deep models without the need for any manual label supervision. Specifically, we progressively discover sample anchored/centred neighbourhoods to reason and learn the underlying class decision boundaries iteratively and accumulatively. Every single neighbourhood is specially formulated so that all the member samples can share the same unseen class labels at high probability for facilitating the extraction of class discriminative feature representations during training. Experiments on image classification show the performance advantages of the proposed method over the state-of-the-art unsupervised learning models on six benchmarks including both coarse-grained and fine-grained object image categorisation.

연구 동기 및 목표

• 레이블 데이터의 한계를 넘어서는 비지도 학습의 확장을 도모하기 위해 로컬 클래스 일관 이웃을 발견한다.
• 클러스터링과 샘플 특이성의 장점을 결합하면서 약점을 완화하기 위해 Anchor Neighbourhood Discovery (AND)를 도입한다.
• 학습 중 클래스 일관성을 극대화하기 위해 커리큘럼 기반의 점진적 이웃 발견을 개발한다.
• 이웃 감독 손실이 포함된 엔드-투-엔드 미분 가능 학습 프레임워크를 제공한다.
• 다수의 거칠고 세분된 이미지 분류 벤치마크에서 최첨단 성능을 입증한다.

제안 방법

• 각 샘플에 고정된 k-최근접 이웃 집합으로 앵커 이웃을 정의하고, 지역성은 보이지 않는 동일 클래스 라벨의 공유를 암시한다고 가정한다.
• 각 샘플을 고유한 클래스로 간주하는 인스턴스-특정 감독으로 초기화하고 비모수적 softmax 교차 엔트로피 손실을 사용한다.
• 이웃 간의 유사성의 미분 가능 집계를 사용하여 이웃 내 라벨 일관성을 촉진하는 이웃 감독 손실을 도입한다.
• 유사도 분포의 엔트로피를 기반으로 점진적으로 더 많은 클래스 일관 이웃을 선택하기 위해 커리큘럼 러닝을 적용하며, 이를 R 라운드로 수행한다.
• 반복 간 안정적인 이웃 발견을 가능하게 하기 위해 지수 이동 평균으로 특징 메모리를 업데이트한다.
• 인스턴스 수준 손실과 이웃 수준 손실을 결합한 공동 최적화를 미분 가능 엔드-투-엔드 학습 루프에서 수행한다.

실험 결과

연구 질문

• RQ1 로컬이며 클래스 일관적인 이웃이 수동 라벨 없이도 비지도 딥러닝에 대해 신뢰할 수 있는 감독 신호를 제공할 수 있는가?
• RQ2 이웃 발견의 점진적 커리큘럼이 일회성 이웃이나 순수 인스턴스 학습에 비해 학습 표현의 질을 향상시키는가?
• RQ3 표준 벤치마크에서 AND가 클러스터링, 자기지도학습, 인스턴스 기반 비지도 방법과 어떻게 비교되는가?
• RQ4 이웃 크기, 네트워크 용량, 커리큘럼 라운드가 학습 특성의 품질에 어떤 영향을 미치는가?

주요 결과

• AND는 여러 벤치마크(CIFAR10, CIFAR100, SVHN, ImageNet 및 세분화 데이터셋 등)에서 여러 최첨단 방법과 비교해 더 우수한 비지도 표현 학습을 종종 달성한다.
• 작은 이웃(k=1)이 더 나은 클래스 일관 이웃과 더 높은 성능을 제공하는 경향이 있다.
• 점진적 이웃 발견 커리큘럼(R 라운드에 걸쳐)은 일회성 이웃 발견 전략에 비해 학습을 개선한다.
• 더 강력한 네트워크 백본(예: ResNet 변형)과 더 나은 초기화가 AND 성능을 향상시킨다.
• 이 방법은 추가 후처리 없이 kNN 기반 분류를 직접 향상시키는 판별 특성을 생성한다.