[论文解读] Self-Paced Multi-Task Learning

Changsheng Li, Junchi Yan+4 more|arXiv (Cornell University)|Apr 6, 2016

Domain Adaptation and Few-Shot Learning被引用 15

一句话总结

本文提出自 paced 多任务学习（SPMTL），一种新颖的框架，通过在多任务学习过程中同时优先处理简单任务和简单样本，以提升模型性能。通过引入面向任务的自 paced 正则化项并使用块坐标下降法，SPMTL 在合成数据集和真实世界数据集（包括 OHSUMED 和 Isolet）上的泛化性能优于当前最先进方法。

ABSTRACT

In this paper, we propose a novel multi-task learning (MTL) framework, called Self-Paced Multi-Task Learning (SPMTL). Different from previous works treating all tasks and instances equally when training, SPMTL attempts to jointly learn the tasks by taking into consideration the complexities of both tasks and instances. This is inspired by the cognitive process of human brain that often learns from the easy to the hard. We construct a compact SPMTL formulation by proposing a new task-oriented regularizer that can jointly prioritize the tasks and the instances. Thus it can be interpreted as a self-paced learner for MTL. A simple yet effective algorithm is designed for optimizing the proposed objective function. An error bound for a simplified formulation is also analyzed theoretically. Experimental results on toy and real-world datasets demonstrate the effectiveness of the proposed approach, compared to the state-of-the-art methods.

研究动机与目标

• 解决现有多任务学习方法在训练过程中对所有任务和样本一视同仁的局限性。
• 通过将任务和样本的复杂度纳入学习顺序，模拟人类从简单到复杂概念的学习认知过程。
• 开发一种系统化的多任务学习框架，根据难度动态选择任务和样本，提升泛化能力和收敛性。
• 设计一种新型正则化项，联合控制任务和样本的选择，实现在多任务环境下的自 paced 学习。
• 在保证优化算法收敛性的同时，维持大规模学习任务下的计算效率。

提出的方法

• 提出一种新的面向任务的自 paced 正则化项，根据任务和样本的复杂度为其分配平滑权重，实现联合优先处理。
• 引入一种块坐标下降算法以优化目标函数，在较弱假设下具备收敛性保证。
• 采用基于损失的加权策略，使每轮迭代中损失较低（即更简单）的样本和任务获得更高权重。
• 通过迭代方式优先选择并训练最具信息量（即最简单）的任务和样本，实施自 paced 策略。
• 采用双层选择机制：在任务层面优先选择较简单任务；在样本层面优先选择每项任务内的较简单样本。
• 引入平滑加权函数，避免选择过程中的突变，确保模型学习过程稳定且逐步推进。

实验结果

研究问题

• RQ1 与对所有任务和样本统一处理相比，是否通过联合优先处理简单任务和简单样本能够提升多任务学习性能？
• RQ2 如何将一种系统化的自 paced 学习策略适配到多任务设置中，以同时处理任务级和样本级复杂度？
• RQ3 在学习顺序中引入任务级难度是否能带来比仅依赖样本级自 paced 更优的收敛性和泛化性能？
• RQ4 能否设计一种新型正则化项，以在多任务学习框架中同时控制任务和样本的选择？
• RQ5 自 paced 学习顺序对模型稳定性及各轮迭代中的预测准确率有何影响？

主要发现

• SPMTL 在合成数据集和真实世界数据集上显著优于基线方法 GO-MTL 和仅基于样本的自 paced 方法 SPIWL，证明了联合优先处理任务与样本的优势。
• 在 OHSUMED 数据集上，SPMTL 的 rMSE 和 nMSE 均低于所有对比方法，性能在约 10 次迭代后趋于稳定。
• 在 Isolet 数据集上，SPMTL 在 rMSE 和 nMSE 指标上均持续优于当前最先进方法，证实其在真实世界回归任务中的有效性。
• 对权重向量 w 和损失 L 的可视化显示，较简单的任务和样本在训练初期即被优先选择，验证了算法的自 paced 行为。
• 消融实验表明，同时考虑任务和样本顺序的性能优于仅考虑其一的情况，其中 SPIWL（仅样本）优于 GO-MTL，而 SPMTL（联合）优于两者。
• 块坐标下降算法收敛稳定，OHSUMED 数据集（使用 15% 训练数据）上预测性能在约 10 次迭代后趋于稳定。