[论文解读] Tensor Canonical Correlation Analysis for Multi-view Dimension Reduction

Yong Luo, Dacheng Tao+3 more|arXiv (Cornell University)|Feb 9, 2015

Tensor decomposition and applications参考文献 2被引用 4

一句话总结

本文提出张量典型相关分析（TCCA），一种将典型相关分析推广至任意多视图数据的方法，通过协方差张量建模高阶相关性。通过将多视图相关性最大化问题重述为秩-1张量逼近问题，TCCA 利用交替最小二乘法（ALS）高效捕捉视图间的复杂依赖关系，在生物特征预测、广告分类和图像标注等多视图降维任务中实现性能提升。

ABSTRACT

Canonical correlation analysis (CCA) has proven an effective tool for two-view dimension reduction due to its profound theoretical foundation and success in practical applications. In respect of multi-view learning, however, it is limited by its capability of only handling data represented by two-view features, while in many real-world applications, the number of views is frequently many more. Although the ad hoc way of simultaneously exploring all possible pairs of features can numerically deal with multi-view data, it ignores the high order statistics (correlation information) which can only be discovered by simultaneously exploring all features. Therefore, in this work, we develop tensor CCA (TCCA) which straightforwardly yet naturally generalizes CCA to handle the data of an arbitrary number of views by analyzing the covariance tensor of the different views. TCCA aims to directly maximize the canonical correlation of multiple (more than two) views. Crucially, we prove that the multi-view canonical correlation maximization problem is equivalent to finding the best rank-1 approximation of the data covariance tensor, which can be solved efficiently using the well-known alternating least squares (ALS) algorithm. As a consequence, the high order correlation information contained in the different views is explored and thus a more reliable common subspace shared by all features can be obtained. In addition, a non-linear extension of TCCA is presented. Experiments on various challenge tasks, including large scale biometric structure prediction, internet advertisement classification and web image annotation, demonstrate the effectiveness of the proposed method.

研究动机与目标

• 解决传统 CCA 仅限于两视图数据的局限性，以应对多于两个特征源的多视图学习场景。
• 克服现有多视图扩展方法中成对相关性最大化策略的不足，后者忽略了所有视图之间的高阶统计依赖关系。
• 构建一个理论完备的框架，通过将联合协方差结构建模为张量，直接最大化多个视图之间的典型相关性。
• 通过将多视图相关性最大化问题简化为低秩张量逼近任务，实现最优公共子空间的高效计算。
• 通过核化方法将该方法扩展至非线性场景，以提升在高维数据和小样本场景下的性能。

提出的方法

• 利用所有视图的协方差张量，将多视图降维建模为基于张量的典型相关性最大化问题。
• 证明最大化多视图相关性在数学上等价于寻找数据协方差张量的最佳秩-1逼近。
• 利用交替最小二乘法（ALS）高效求解秩-1张量逼近问题，确保算法的可扩展性与收敛性。
• 引入 TCCA 的核化版本，通过将数据映射到再生核希尔伯特空间，以建模视图间的非线性关系。
• 通过张量-矩阵乘法和多模态积，将典型相关性表达为涉及各视图特定权重向量的多线性形式。
• 通过利用协方差张量的结构并采用 ALS 进行迭代优化，确保计算效率，适用于大规模数据集。

实验结果

研究问题

• RQ1 能否开发一种理论完备的 CCA 扩展方法，以处理超过两视图的数据，同时保持典型相关性的理论基础？
• RQ2 建模所有视图之间的高阶相关性（超越成对相关性）是否能生成更鲁棒、更具信息量的多视图数据公共子空间？
• RQ3 多视图相关性最大化问题能否被重述为低秩张量逼近任务？若能，是否可高效求解？
• RQ4 TCCA 在真实世界多视图学习任务中的性能与传统成对 CCA 扩展相比如何？
• RQ5 TCCA 的非线性核化版本在高维数据或数据稀缺场景下的性能提升程度如何？

主要发现

• TCCA 通过捕捉成对方法所忽略的高阶相关性，在生物特征结构预测、互联网广告分类和网络图像标注任务中实现了卓越的多视图降维性能。
• 与成对 CCA 扩展相比，该方法在分类准确率和子空间质量方面均有显著提升，尤其当视图数量超过两个时优势更明显。
• 在 SecStr 数据集上的实证结果表明，即使公共子空间维度增加，TCCA 仍保持较低的计算成本和内存消耗，体现出良好的可扩展性。
• 在 NUS-WIDE 哺乳动物子集上，每类仅含六个标注样本时，TCCA 仍表现出优异性能，证明其在低数据场景下的鲁棒性。
• TCCA 的非线性扩展在高维数据上进一步提升了性能，尤其结合核方法时效果更显著，证实了非线性建模在多视图学习中的价值。
• 理论分析表明，多视图相关性最大化问题等价于秩-1张量逼近，验证了该方法的数学基础，并支持通过 ALS 实现高效优化。