[论文解读] A Brief Review of Deep Multi-task Learning and Auxiliary Task Learning

Partoo Vafaeikia, Khashayar Namdar+1 more|arXiv (Cornell University)|Jul 2, 2020

Domain Adaptation and Few-Shot Learning参考文献 25被引用 6

一句话总结

本文综述了深度多任务学习（dMTL）架构，并提出方法以选择最优的辅助任务来提升模型性能。它提出了AUTOSEM框架，该框架采用两阶段设计：第一阶段使用多臂赌博机实现动态辅助任务选择，第二阶段利用贝叶斯优化学习最优训练混合比例，实证表明两个阶段均对最大化性能和减少负迁移至关重要。

ABSTRACT

Multi-task learning (MTL) optimizes several learning tasks simultaneously and leverages their shared information to improve generalization and the prediction of the model for each task. Auxiliary tasks can be added to the main task to ultimately boost the performance. In this paper, we provide a brief review on the recent deep multi-task learning (dMTL) approaches followed by methods on selecting useful auxiliary tasks that can be used in dMTL to improve the performance of the model for the main task.

研究动机与目标

• 综述近期提升特征共享与泛化能力的深度多任务学习（dMTL）架构。
• 通过识别能提升主任务性能的有效辅助任务，解决dMTL中的负迁移问题。
• 提出一种系统化、自动化的辅助任务选择与组合方法，以最小化干扰并最大化性能增益。
• 评估在dMTL框架中结合自动任务选择与动态混合比例学习的有效性。

提出的方法

• 使用非平稳多臂赌博机控制器，根据辅助任务相对于主任务的估计有用性，动态选择辅助任务。
• 采用贝叶斯优化结合高斯过程模型，学习训练过程中选定辅助任务的最优混合比例。
• 将任务选择与混合比例学习整合到单一框架（AUTOSEM）中，实现性能的联合优化。
• 通过使用辅助模块实现硬参数共享与软参数共享的结合，对共享表征进行正则化，同时不增加推理成本。
• 利用基于梯度的相似性度量（余弦相似度）在训练前筛选出有害的辅助任务。
• 采用门控共享单元，学习标量权重，根据任务相似性选择性地允许任务间特征交换。

实验结果

研究问题

• RQ1 如何自动选择辅助任务，以在深度多任务学习中实现最大性能增益？
• RQ2 动态调整辅助任务训练比例对模型性能有何影响？
• RQ3 结合任务选择与混合比例优化的两阶段框架是否优于单阶段或人工方法？
• RQ4 使用梯度相似性（余弦相似度）如何帮助识别非有害的辅助任务？
• RQ5 任务选择与混合比例学习在整体性能提升中各自贡献的程度如何？

主要发现

• 结合自动任务选择与最优混合比例学习的AUTOSEM框架，相较于仅使用单一阶段的方法，显著提升了模型性能。
• 多臂赌博机用于任务选择与贝叶斯优化用于混合比例学习均为关键组件；若任一环节缺失，性能均会下降。
• 通过主任务与辅助任务梯度之间的余弦相似度，可有效识别并排除可能引发负迁移的任务。
• 采用可学习标量权重的门控多任务网络，能通过选择性地仅在有益任务对之间允许特征共享，成功减少干扰。
• 在推理时可移除的辅助模块，可实现类似软参数共享的正则化效果，同时不增加计算成本。
• 该框架具有领域无关性，可广泛应用于计算机视觉、自然语言处理等多种机器学习应用场景。