[论文解读] Learning Multiple Visual Tasks while Discovering their Structure

Carlo Ciliberto, Lorenzo Rosasco+1 more|arXiv (Cornell University)|Apr 13, 2015

Sparse and Compressive Sensing Techniques参考文献 20被引用 7

一句话总结

该论文提出了一种名为稀疏核多任务学习（Sparse Kernel MTL）的新颖非参数化多任务学习框架，通过使用稀疏、矩阵值再生核希尔伯特空间，联合学习多个视觉任务并发现其潜在的结构关系。通过将问题表述为带有交替最小化的凸优化问题，该方法实现了最先进性能，并揭示了可解释的任务结构，尤其在任务相关性稀疏或具有特定组别特征时表现优异。

ABSTRACT

Multi-task learning is a natural approach for computer vision applications that require the simultaneous solution of several distinct but related problems, e.g. object detection, classification, tracking of multiple agents, or denoising, to name a few. The key idea is that exploring task relatedness (structure) can lead to improved performances. In this paper, we propose and study a novel sparse, non-parametric approach exploiting the theory of Reproducing Kernel Hilbert Spaces for vector-valued functions. We develop a suitable regularization framework which can be formulated as a convex optimization problem, and is provably solvable using an alternating minimization approach. Empirical tests show that the proposed method compares favorably to state of the art techniques and further allows to recover interpretable structures, a problem of interest in its own right.

研究动机与目标

• 开发一种多任务学习框架，联合优化预测性能并发现相关任务的潜在结构。
• 利用向量值核方法，将任务相关性建模为稀疏的正定矩阵。
• 提供一种可证明收敛的优化算法，实现预测器与任务结构的同步学习。
• 实现可解释的任务分组发现，尤其在共享结构有限或具有层次结构的情况下。
• 在真实和合成数据上，于准确率与结构可解释性方面均超越现有多任务学习方法。

提出的方法

• 该方法在再生核希尔伯特空间（RKHS）中采用Tikhonov正则化框架，用于向量值函数。
• 引入一种参数化矩阵值核，以在任务关系中强制实现稀疏性，仅促进相关任务之间的连接。
• 将学习问题表述为一个联合最小化预测器与任务结构矩阵的凸优化任务。
• 采用交替最小化算法求解该问题，其收敛性通过凸优化理论得到证明。
• 该算法在监督学习（预测器更新）与无监督结构学习（矩阵更新）之间交替进行，从而实现可解释的发现。
• 在任务关系矩阵上施加稀疏性诱导惩罚，以识别最相关的任务间依赖关系。

实验结果

研究问题

• RQ1 多任务学习框架能否同时优化预测性能并发现相关任务的潜在结构？
• RQ2 在非参数核框架中，如何将任务相关性建模为稀疏且可解释的矩阵？
• RQ3 用于联合学习与结构发现的交替最小化过程是否能收敛到全局最优解？
• RQ4 该方法能否在揭示有意义的任务分组的同时，超越最先进多任务学习技术？
• RQ5 当任务相关性部分存在或非均匀分布时，结构发现对性能有何影响？

主要发现

• 在Animals with Attributes数据集上，当每类有100个训练样本时，稀疏核多任务学习（SKMTL）的平均精度达到63.21%，优于MTFL（61.21%）和OKL（62.07%）。
• 当每类有150个训练样本时，SKMTL的性能保持在64.51%，与最佳性能方法非常接近。
• 在颜色与肢体形状属性检测实验中，SKMTL在独立训练与联合训练中均保持稳定性能，避免了负迁移现象。
• MTFL、MTRL和OKL在对不相交语义组进行联合训练时性能下降，表明因错误的结构假设导致了负迁移。
• 该方法成功恢复了可解释的任务分组，表现为在语义组被分离时性能保持稳定。
• 实证结果证实，所提算法可证明收敛，并有效平衡了预测准确性与结构可解释性。