[논문 리뷰] Image Representation Learning Using Graph Regularized Auto-Encoders

Yiyi Liao, Yue Wang외 1명|arXiv (Cornell University)|2013. 12. 03.

Domain Adaptation and Few-Shot Learning참고 문헌 18인용 수 4

한 줄 요약

이 논문은 고차원 이미지 데이터에서 필수적인 의미적 및 구조적 정보를 유지하면서 저차원의 국소적 불변 이미지 표현을 학습하기 위해 딥 오토에인코딩과 국소적 이웃 구조를 보존하는 그래프 정규화자를 조합한 그래프 정규화 오토에인코더(GAE)를 제안한다. 이 방법은 비지도 및 준지도 설정에서 ORL, Yale, COIL20 데이터셋에서 이미지 클러스터링 작업에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

We consider the problem of image representation for the tasks of unsupervised learning and semi-supervised learning. In those learning tasks, the raw image vectors may not provide enough representation for their intrinsic structures due to their highly dense feature space. To overcome this problem, the raw image vectors should be mapped to a proper representation space which can capture the latent structure of the original data and represent the data explicitly for further learning tasks such as clustering. Inspired by the recent research works on deep neural network and representation learning, in this paper, we introduce the multiple-layer auto-encoder into image representation, we also apply the locally invariant ideal to our image representation with auto-encoders and propose a novel method, called Graph regularized Auto-Encoder (GAE). GAE can provide a compact representation which uncovers the hidden semantics and simultaneously respects the intrinsic geometric structure. Extensive experiments on image clustering show encouraging results of the proposed algorithm in comparison to the state-of-the-art algorithms on real-word cases.

연구 동기 및 목표

• 고차원 이미지 데이터로부터 필수적인 의미적 및 구조적 정보를 유지하는 저차원 이미지 표현을 학습하는 데 도전하는 것.
• 그래프 정규화를 통한 국소 기하학적 구조 통합을 통해 비지도 및 준지도 이미지 표현 학습을 향상시키는 것.
• 그래프 정규화자를 사용하여 입력 공간에서 표현 공간으로의 이웃 관계를 유지하는 비선형 맵핑 방법을 개발하는 것.
• 이미지 클러스터링 작업에서 기존의 딥 표현 학습 및 국소 불변 방법을 능가하는 것.
• 완전히 레이블링된 경우와 부분적으로 레이블링된 경우 양태에서 그래프 정규화와 딥 아키텍처가 표현 품질에 미치는 영향을 조사하는 것.

제안 방법

• 입력 이미지 X의 비선형 저차원 표현 H를 학습하기 위해 다중층을 사용하는 딥 오토에인코더를 사용하며, H ∈ ℝ^{l×n} 이고 l < m 이다.
• 국소 불변성을 강제하기 위해 그래프 정규화자를 적용한다: 표현 H는 원래 데이터 다양체의 국소 유클리드 기하학을 유지함으로써 이웃 관계를 보존한다.
• 입력 데이터 X에 대해 K-최근접 이웃(KNN) 그래프를 구성하여 국소 이웃을 정의하며, 유사도(예: 가우시안 RBF) 기반으로 간선 가중치를 설정한다.
• 준지도 설정에서 레이블된 데이터를 통합하기 위해 레이블된 점과 그 이웃을 연결하는 간선에 더 높은 가중치를 할당하는 준그래프 정규화자를 도입한다.
• 재구성 오차(||X - Q||²)와 국소 구조에서의 이탈을 처벌하는 그래프 정규화 항을 합친 손실 함수를 최적화하여 오토에인코더를 최적화한다.
• 클러스터링 성능을 극대화하기 위해 그리드 서치를 통해 하이퍼파ram터(λ: 그래프 정규화 강도, k: KNN)를 튜닝한다.

실험 결과

연구 질문

• RQ1 표준 오토에인코더에 비해 그래프 정규화를 통한 국소 다양체 구조 보존을 통해 딥 오토에인코더가 더 분류 가능한 이미지 표현을 학습할 수 있는가?
• RQ2 그래프 정규화를 통한 국소 기하 제약 조건의 통합이 비지도 이미지 표현 학습에서 클러스터링 성능을 어떻게 향상시키는가?
• RQ3 준그래프 정규화를 통해 레이블된 데이터를 통합함으로써 준지도 설정에서 표현 학습이 얼마나 향상되는가?
• RQ4 클러스터링 정확도와 상호정보량 측면에서 제안된 GAE는 CNMF 및 희박/노이즈 제거 오토에인코더와 같은 최신 기술 수준의 방법과 비교해 어떻게 성능을 냈는가?
• RQ5 아키텍처의 깊이와 그래프 정규화가 학습된 이미지 표현의 품질에 어떤 영향을 미치는가?

주요 결과

• ORL 데이터셋에서, GAE는 40개의 레이블된 샘플을 사용한 준지도 학습에서 평균 클러스터링 정확도 0.8163과 상호정보량 0.8923을 기록했으며, CNMF(AC: 0.7140, MI: 0.8050)를 능가했다.
• Yale 데이터셋에서, GAE는 15개의 레이블된 샘플을 사용한 준지도 학습에서 상호정보량 0.6547과 정확도 0.6828을 기록했으며, CNMF(MI: 0.5704, AC: 0.6120)를 뚜렷이 앞섰다.
• COIL20 데이터셋에서, GAE는 20개의 레이블된 샘플을 사용한 준지도 학습에서 상호정보량 0.9109와 정확도 0.8961을 기록했으며, CNMF(MI: 0.7728, AC: 0.7270)를 뛰어넘었다.
• 비지도 클러스터링에서, GAE는 ORL에서 평균 정확도 0.7203, Yale에서 0.6944, COIL20에서 0.7461을 기록했으며, 최신 기술 수준의 방법들과 경쟁 가능한 성능을 보였다.
• 준지도 GAE는 항상 비지도 버전을 능가했으며, 레이블된 데이터가 그래프 정규화와 결합될 경우 표현 학습이 향상됨을 시사한다.
• 제거 분석 결과, 그래프 정규화가 국소 구조를 보존함으로써 성능 향상에 크게 기여함을 확인했으며, 특히 레이블된 데이터가 부족할 경우 더욱 두드러진다.