[논문 리뷰] Canonical Correlation Analysis (CCA) Based Multi-View Learning: An Overview

Chenfeng Guo, Dongrui Wu|arXiv (Cornell University)|2019. 07. 03.

Face and Expression Recognition참고 문헌 67인용 수 32

한 줄 요약

이 논문은 대표적인 CCA 기반 다중 뷰 학습 방법을 survey하며 선형, 비선형, 감독 및 심층 확장을 강조하여 여러 뷰를 융합한다.

ABSTRACT

Multi-view learning (MVL) is a strategy for fusing data from different sources or subsets. Canonical correlation analysis (CCA) is very important in MVL, whose main idea is to map data from different views onto a common space with maximum correlation. Traditional CCA can only be used to calculate the linear correlation of two views. Besides, it is unsupervised and the label information is wasted. Many nonlinear, supervised, or generalized extensions have been proposed to overcome these limitations. However, to our knowledge, there is no overview for these approaches. This paper provides an overview of many representative CCA-based MVL approaches.

연구 동기 및 목표

• 다중 뷰에서 정보를 융합하는 방법으로 MVL을 동기부여한다.
• CCA와 MVL에서의 역할을 공유 서브스페이스 학습기로서 설명한다.
• 대표적인 CCA 기반 MVL 방법과 그 핵심 특성을 요약한다.
• 두 개 이상 뷰, 비선형성, 희소성 및 감독에 대한 확장을 논의한다.

제안 방법

• 전통적 CCA와 다중 뷰 및 감독 작업에 대한 한계점 검토한다.
• 다중 뷰에 대한 GCCA와 그 변형들(SUMCOR, MAXVAR, SSQCOR, MINVAR, GENVAR)을 제시한다.
• 비선형 확장(KCCA, LPCCA, DCCA, DCCAE, DisDCCA) 및 감독/식별 변형(DisCCA, MLDA, MULDA)을 설명한다.
• 텐서/그래프 기반 및 고차원 접근(TCCA, RCCA, LPCCA)을 설명한다.
• 딥러닝 통합(DCCA, DisDCCA, DCCAE, DisDCCAE, VCCA, VCCA-private)을 Outline한다.
• 최적화 형태(고유값 분해, SVD, 일반화 고유값 문제)와 학습 고려사항을 요약한다.

실험 결과

연구 질문

• RQ1 두 뷰 및 다중 뷰 데이터에 대한 대표적인 CCA 기반 접근법은 무엇인가?
• RQ2 비선형, 희소 및 감독 확장이 CCA의 한계를 어떻게 다루는가?
• RQ3 CCA 기반 방법과 다른 MVL 패러다임(식별성, 국소성, 딥 러닝) 사이의 연결 고리는 무엇인가?

주요 결과

• 본 논문은 두 뷰 및 다중 뷰 형식을 포함한 CCA 기반 MVL 방법에 대한 포괄적 개요를 제공한다.
• 선형, 비선형, 희소, 감독 및 심층 학습 확장을 다중 뷰 전반에 걸쳐 다룬다.
• 핵심은 커널, 국소성 보존, 식별 변형과 그 기저 최적화 문제를 대비한다.
• 커널 및 심층 방법의 정규화 및 계산 복잡성과 같은 실용적 고려사항을 강조한다.
• 대표적 접근 방식의 주요 특성을 요약한 비교 표(Table I)가 포함되어 있다.