[论文解读] Curriculum Learning of Multiple Tasks

Anastasia Pentina, Viktoriia Sharmanska+1 more|arXiv (Cornell University)|Dec 3, 2014

Domain Adaptation and Few-Shot Learning参考文献 30被引用 5

一句话总结

该论文提出了一种顺序多任务学习框架，通过以优化顺序学习相关任务来提升泛化性能，利用PAC-Bayesian泛化界自动发现最有效的课程顺序。该方法在任务相关性变化时优于联合学习和独立训练，在图像分类基准上表现出更优性能。

ABSTRACT

Sharing information between multiple tasks enables algorithms to achieve good generalization performance even from small amounts of training data. However, in a realistic scenario of multi-task learning not all tasks are equally related to each other, hence it could be advantageous to transfer information only between the most related tasks. In this work we propose an approach that processes multiple tasks in a sequence with sharing between subsequent tasks instead of solving all tasks jointly. Subsequently, we address the question of curriculum learning of tasks, i.e. finding the best order of tasks to be learned. Our approach is based on a generalization bound criterion for choosing the task order that optimizes the average expected classification performance over all tasks. Our experimental results show that learning multiple related tasks sequentially can be more effective than learning them jointly, the order in which tasks are being solved affects the overall performance, and that our model is able to automatically discover the favourable order of tasks.

研究动机与目标

• 解决联合多任务学习的局限性，即无关任务可能因负迁移而损害性能。
• 通过从先前学习任务向后续任务逐步迁移知识，在低数据场景下提升泛化能力。
• 提出一种理论基础扎实的方法，基于泛化界自动确定任务学习的最优顺序。
• 证明顺序学习结合课程排序可优于独立学习和联合学习方法。

提出的方法

• 提出一种顺序多任务学习方法，其中每个任务均使用前一个任务的模型作为归纳偏置。
• 使用依赖于连续任务权重向量之间距离及数据表示的PAC-Bayesian泛化界，指导课程学习。
• 基于泛化界定义一个准则，用于对任务顺序进行排序，并选择使所有任务平均误差最小的顺序。
• 提出算法1（MultiSeqMT），通过递归更新模型权重，最小化泛化界来计算最优序列。
• 将方法扩展至处理多个子序列，通过算法2实现动态重排序和次优路径剪枝。
• 将方法应用于带L2正则化的线性分类器，通过权重向量之间的欧氏距离建模任务相关性。

实验结果

研究问题

• RQ1 与联合学习相比，通过从先前任务迁移知识实现多任务顺序学习，是否能提升泛化性能？
• RQ2 学习任务的顺序是否显著影响多任务学习的整体性能？
• RQ3 能否基于泛化界提出一个理论合理的准则，自动发现最优任务排序课程？
• RQ4 所提出的顺序方法在分类准确率方面，与独立学习、联合学习和随机排序相比表现如何？
• RQ5 该方法在不同任务相关性程度下是否具有适应能力，能否避免不相关任务带来的负迁移？

主要发现

• 在AwA和Shoes数据集上，采用课程排序的顺序学习始终优于联合多任务学习，平均误差率更低。
• 在AwA数据集上，所提出的SeqMT方法实现了23.86% ± 0.33的平均误差率，优于联合MT方法（24.16% ± 0.35）和基线IndSVM（26.34% ± 0.31）。
• 该方法成功发现了一条有利的课程顺序，显著提升了所有类别上的性能，最佳序列的平均误差率为23.35% ± 0.38。
• 在20次随机重复实验中，该算法性能稳定，标准误差较低，表明任务顺序优化具有可靠性。
• 与随机或启发式排序相比，基于课程的方法显著降低了误差率，尤其在更难或相关性较低的任务上效果更明显。
• 采用PAC-Bayesian泛化界使模型能够有效优先选择最小化期望风险的任务序列，验证了该方法的理论基础。