[论文解读] Multi-view Metric Learning in Vector-valued Kernel Spaces

Riikka Huusari, Hachem Kadri+1 more|arXiv (Cornell University)|Mar 21, 2018

Face and Expression Recognition参考文献 4被引用 5

一句话总结

本文提出了一种新颖的多视角度量学习框架，联合学习向量值核空间与块状结构度量，以捕捉视角内和视角间的数据关系。通过构建凸优化问题并采用分块Nyström近似，该方法在大规模数据集上实现了高效计算，同时在真实世界的多视角分类与回归任务中取得了最先进性能，稀疏解揭示了各视角的重要性。

ABSTRACT

We consider the problem of metric learning for multi-view data and present a novel method for learning within-view as well as between-view metrics in vector-valued kernel spaces, as a way to capture multi-modal structure of the data. We formulate two convex optimization problems to jointly learn the metric and the classifier or regressor in kernel feature spaces. An iterative three-step multi-view metric learning algorithm is derived from the optimization problems. In order to scale the computation to large training sets, a block-wise Nystr{ö}m approximation of the multi-view kernel matrix is introduced. We justify our approach theoretically and experimentally, and show its performance on real-world datasets against relevant state-of-the-art methods.

研究动机与目标

• 为解决学习有效度量以捕捉多视角数据中视角内与视角间依赖关系的挑战。
• 克服大规模设置下矩阵值核方法的高计算成本。
• 在向量值再生核希尔伯特空间（RKHS）中联合学习分类器/回归器与结构化度量。
• 通过分块Nyström近似开发一种可扩展算法，以实现高效的核计算。
• 通过Rademacher界提供理论依据，并在真实世界数据集上进行实证验证。

提出的方法

• 构建两个凸优化问题，以在RKHS中联合学习向量值函数与块状结构度量。
• 推导出一种迭代三步算法来求解优化问题，通过在度量与函数更新之间交替进行。
• 引入分块Nyström近似，以降低构建和求逆大规模多视角核矩阵的计算成本。
• 采用矩阵值核，编码视角内与视角间相似性，实现对多模态数据的灵活建模。
• 利用表示定理，将解表示为在训练点处计算的核函数的线性组合。
• 对多分类问题采用一对多分类方法，对正则化参数调优采用交叉验证。

实验结果

研究问题

• RQ1 是否存在一个统一框架，可联合学习多视角度量与决策函数，且在向量值核空间中进行？
• RQ2 如何在不牺牲性能的前提下降低矩阵值核方法的高计算成本？
• RQ3 Nyström近似对多视角度量学习的泛化能力与效率有何影响？
• RQ4 所学习的度量矩阵能否揭示有意义的视角交互关系与相对重要性？
• RQ5 可为所提方法建立哪些理论保证，例如泛化界？

主要发现

• 在使用2000个训练样本和8% Nyström近似的机器人操作数据集上，MVMLsparse方法实现了0.3915的最低误差率。
• 在Flower17数据集上，MVML方法在所有近似水平下均优于SVM、OKL和MLKR，最佳准确率在12% Nyström近似时达到。
• 分块Nyström近似显著降低了计算成本，同时保持了具有竞争力的性能，尤其在低近似水平下表现突出。
• MVMLsparse所学习的度量矩阵表现出高度稀疏性，表明该方法能够识别出重要视角及其相互作用。
• 通过Rademacher界进行的泛化分析支持了所提算法的理论合理性。
• 该方法对近似水平具有鲁棒性，即使在低采样率下（如数据的1–10%）也观察到性能提升。