[論文レビュー] Multitask learning over graphs

Roula Nassif, Stefan Vlaski+3 more|arXiv (Cornell University)|Jan 7, 2020

Domain Adaptation and Few-Shot Learning参考文献 28被引用数 5

ひとこと要約

本稿では、ネットワーク化されたシステムにおけるストリーミングで分散データを処理するためのマルチタスク学習フレームワークを提案する。エージェントが協力的に関連するタスクを同時に学習する。タスクの関連性を協力ルールでモデル化することで、非協力的戦略に比べて一般化性能と収束性が向上し、特に動的で分散型の環境において顕著である。

ABSTRACT

The problem of learning simultaneously several related tasks has received considerable attention in several domains, especially in machine learning with the so-called multitask learning problem or learning to learn problem [1], [2]. Multitask learning is an approach to inductive transfer learning (using what is learned for one problem to assist in another problem) and helps improve generalization performance relative to learning each task separately by using the domain information contained in the training signals of related tasks as an inductive bias. Several strategies have been derived within this community under the assumption that all data are available beforehand at a fusion center. However, recent years have witnessed an increasing ability to collect data in a distributed and streaming manner. This requires the design of new strategies for learning jointly multiple tasks from streaming data over distributed (or networked) systems. This article provides an overview of multitask strategies for learning and adaptation over networks. The working hypothesis for these strategies is that agents are allowed to cooperate with each other in order to learn distinct, though related tasks. The article shows how cooperation steers the network limiting point and how different cooperation rules allow to promote different task relatedness models. It also explains how and when cooperation over multitask networks outperforms non-cooperative strategies.

研究の動機と目的

• 分散型かつストリーミングデータ環境における複数の関連するタスクを学習する課題に対処すること。
• ネットワークエージェント間でタスクの関連性を活用する協力的学習戦略を設計すること。
• 分散型システムにおける非協力的学習に比べ、一般化性能と収束性を向上させること。
• 異なる協力ルールがタスクの関連性およびネットワーク性能に与える影響をモデル化すること。

提案手法

• エージェントが共有のインダクティブバイアスを用いて、別個だが関連するタスクを学習するために協力する。
• 協力を重み付き平均による局所的推定の平均化でモデル化し、重みはタスクの関連性を反映する。
• 新しいデータがストリーミングで流入するにつれて段階的に適応するオンライン学習アルゴリズムを用いる。
• 異なるタスク関連性モデル（例：共有特徴、階層的関係）を符号化するために、さまざまな協力ルールを導入する。
• 異なる協力戦略下でのネットワークの極限点（定常状態性能）を分析する。
• 平均二乗誤差とタスク正答率の観点から、協力的学習と非協力的学習を比較することで、収束性と性能を評価する。

実験結果

リサーチクエスチョン

• RQ1 どのようにしてネットワーク上でストリーミングで分散データを処理するマルチタスク学習を効果的に適用できるか？
• RQ2 エージェント間の協力が非協力的戦略に比べて学習性能にどのように寄与するか？
• RQ3 異なる協力ルールがマルチタスクネットワークにおけるタスク関連性のモデル化にどのように影響するか？
• RQ4 どのような条件下で協力的マルチタスク学習が独立学習を上回るか？
• RQ5 協力がネットワークの極限点および収束行動に与える影響は何か？

主な発見

• 共通のインダクティブバイアスを活用することで、協力が一般化性能を顕著に向上させる。
• 異なる協力ルールにより、共有特徴や階層的依存関係といった多様なタスク関連性構造をモデル化できる。
• ネットワークの極限点は協力戦略によって制御可能であり、タスク固有の学習と共有学習のトレードオフを調整できる。
• 特にタスクが関連している場合に、協力的戦略は収束速度と定常状態誤差の両面で非協力的戦略を上回る。
• 本フレームワークはストリーミングデータおよび分散型データ収集環境下でも頑健な性能を維持するため、リアルタイム応用に適している。