[论文解读] Multitask learning over graphs

Roula Nassif, Stefan Vlaski+3 more|arXiv (Cornell University)|Jan 7, 2020

Domain Adaptation and Few-Shot Learning参考文献 28被引用 5

一句话总结

本文提出了一种面向网络化系统中流式、分布式数据的多任务学习框架，其中各智能体协作以同时学习相关任务。通过合作规则建模任务相关性，该方法在动态、去中心化环境中相比非合作策略显著提升了泛化能力和收敛性。

ABSTRACT

The problem of learning simultaneously several related tasks has received considerable attention in several domains, especially in machine learning with the so-called multitask learning problem or learning to learn problem [1], [2]. Multitask learning is an approach to inductive transfer learning (using what is learned for one problem to assist in another problem) and helps improve generalization performance relative to learning each task separately by using the domain information contained in the training signals of related tasks as an inductive bias. Several strategies have been derived within this community under the assumption that all data are available beforehand at a fusion center. However, recent years have witnessed an increasing ability to collect data in a distributed and streaming manner. This requires the design of new strategies for learning jointly multiple tasks from streaming data over distributed (or networked) systems. This article provides an overview of multitask strategies for learning and adaptation over networks. The working hypothesis for these strategies is that agents are allowed to cooperate with each other in order to learn distinct, though related tasks. The article shows how cooperation steers the network limiting point and how different cooperation rules allow to promote different task relatedness models. It also explains how and when cooperation over multitask networks outperforms non-cooperative strategies.

研究动机与目标

• 解决在分布式和流式数据环境中学习多个相关任务的挑战。
• 设计利用网络化智能体间任务相关性的合作学习策略。
• 与去中心化系统中的非合作学习相比，提升泛化能力和收敛性。
• 建模不同合作规则如何影响任务相关性及网络性能。

提出的方法

• 网络中的智能体通过共享归纳偏置协作学习不同但相关联的任务。
• 通过局部估计的加权平均来建模合作，权重反映任务相关性。
• 该框架使用在线学习算法，随新数据流的到达逐步自适应更新。
• 引入不同的合作规则以编码各种任务相关性模型（例如共享特征、层次关系）。
• 在不同合作策略下分析网络的极限点（稳态性能）。
• 通过均方误差和任务准确率比较合作与非合作学习的收敛性和性能。

实验结果

研究问题

• RQ1 如何在网络的流式、分布式数据上有效应用多任务学习？
• RQ2 智能体之间的合作相比非合作策略在多大程度上提升了学习性能？
• RQ3 不同合作规则如何影响多任务网络中任务相关性的建模？
• RQ4 在何种条件下，合作多任务学习优于去中心化系统中的独立学习？
• RQ5 合作对网络极限点和收敛行为有何影响？

主要发现

• 通过利用相关任务间的共享归纳偏置，合作显著提升了泛化性能。
• 不同的合作规则可实现对多样化任务相关性结构的建模，如共享特征或层次依赖关系。
• 网络的极限点受合作策略影响，从而可控制任务特定学习与共享学习之间的权衡。
• 在任务相关时，合作策略在收敛速度和稳态误差方面均优于非合作策略。
• 该框架在流式数据和去中心化数据采集下保持了稳健性能，适用于实时应用。