[論文レビュー] Canonical Correlation Analysis (CCA) Based Multi-View Learning: An Overview

Chenfeng Guo, Dongrui Wu|arXiv (Cornell University)|Jul 3, 2019

Face and Expression Recognition参考文献 67被引用数 32

ひとこと要約

この論文は代表的なCCAベースのマルチビュー学習アプローチを概観し、複数のビューを統合する線形、非線形、監督付き、および深層拡張を強調します。

ABSTRACT

Multi-view learning (MVL) is a strategy for fusing data from different sources or subsets. Canonical correlation analysis (CCA) is very important in MVL, whose main idea is to map data from different views onto a common space with maximum correlation. Traditional CCA can only be used to calculate the linear correlation of two views. Besides, it is unsupervised and the label information is wasted. Many nonlinear, supervised, or generalized extensions have been proposed to overcome these limitations. However, to our knowledge, there is no overview for these approaches. This paper provides an overview of many representative CCA-based MVL approaches.

研究の動機と目的

• 複数のビューから情報を統合する方法としてのMVLを動機付ける。
• 共通部分空間学習者としてのCCAとMVLにおける役割を説明する。
• 代表的なCCAベースのMVL手法とその主要特徴を要約する。
• 2ビューを超える拡張、非線形性、スパース性、および監視性への拡張を論じる。

提案手法

• 従来のCCAと、それが複数ビューおよび監視タスクに対して持つ制約を検討する。
• 複数ビューのためのGCCAとその派生（SUMCOR、MAXVAR、SSQCOR、MINVAR、GENVAR）を提示する。
• 非線形拡張（KCCA、LPCCA、DCCA、DCCAE、DisDCCA）と監視／識別的派生（DisCCA、MLDA、MULDA）を説明する。
• テンソル／グラフベースおよび高次のアプローチ（TCCA、RCCA、LPCCA）を説明する。
• 深層学習統合（DCCA、DisDCCA、DCCAE、DisDCCAE、VCCA、VCCA-private）を Outlineする。
• 最適化定式化（特異値分解、SVD、一般化特性値問題）と訓練上の考慮点を要約する。

実験結果

リサーチクエスチョン

• RQ1 二視点およびマルチビューデータに対する代表的なCCAベースのアプローチは何か。
• RQ2 非線形性・スパース性・監視付き拡張はCCAの制約をどう解決するか。
• RQ3 CCAベースの手法と他のMVLパラダイム（識別性、局所性、深層学習）との関連は何か。

主な発見

• 本論文は、二視点およびマルチビューの形式を含むCCAベースのMVL手法の包括的な概要を提供する。
• 線形、非線形、スパース、監視付き、および深層学習の拡張を複数ビューにわたって網羅する。
• カーネル、局所性保持、および識別的派生を、それらの基礎となる最適化問題と対比して説明する。
• カーネル法や深層法の正則化と計算複雑性といった実務的考慮点を強調する。
• 代表的なアプローチの主要特徴を整理した比較表（Table I）を含む。