[論文レビュー] Learning Multiple Tasks with Deep Relationship Networks

Mingsheng Long, Jianmin Wang+1 more|arXiv (Cornell University)|Jun 6, 2015

Domain Adaptation and Few-Shot Learning参考文献 34被引用数 87

ひとこと要約

本稿では、すべてのタスク固有レイヤー（非転送可能な高レベル特徴量および分類器を含む）におけるパラメータに行列ノルム事前分布を用いてタスク間関係をモデル化する、マルチタスク学習フレームワークであるDeep Relationship Networks（DRN）を提案する。転送可能な特徴量とタスク相関を同時に最適化することで、特徴量レイヤーにおけるネガティブな転送を軽減し、分類器におけるアンダーライフ転送を是正し、マルチドメイン物体認識ベンチマークで最先端の性能を達成する。

ABSTRACT

Deep neural networks trained on large-scale dataset can learn transferable features that promote learning multiple tasks for inductive transfer and labeling mitigation. As deep features eventually transition from general to specific along the network, a fundamental problem is how to exploit the relationship structure across different tasks while accounting for the feature transferability in the task-specific layers. In this work, we propose a novel Deep Relationship Network (DRN) architecture for multi-task learning by discovering correlated tasks based on multiple task-specific layers of a deep convolutional neural network. DRN models the task relationship by imposing matrix normal priors over the network parameters of all task-specific layers, including higher feature layers and classifier layer that are not transferable safely. By jointly learning the transferable features and task relationships, DRN is able to alleviate the dilemma of negative-transfer in the feature layers and under-transfer in the classifier layer. Empirical evidence shows that DRN yields state-of-the-art classification results on standard multi-domain object recognition datasets.

研究の動機と目的

• マルチタスク学習における共有特徴量レイヤーでのネガティブな転送と、タスク固有の分類器でのアンダーライフ転送の課題に対処すること。
• 非転送可能な高レベル特徴量および最終分類器を含む、深層ネットワークの複数レイヤーにわたるタスク関係をモデル化すること。
• 転送可能な特徴量とタスク相関を同時に学習することで、一般化性能を向上させるとともにラベル付けの負担を軽減すること。
• 特徴量レイヤーと分類器レイヤーの両方を異なる方法で扱う既存手法の制限を克服すること。

提案手法

• すべてのタスク固有レイヤーにおけるネットワークパラメータに行列ノルム事前分布を用いてタスク関係をモデル化するDeep Relationship Network（DRN）アーキテクチャを導入する。
• 深層特徴量レイヤーおよび分類器レイヤーの両方に行列ノルム事前分布を適用し、特徴量の転送可能性とタスク相関の両方を共同で学習可能にする。
• 深層ネットワークの階層的構造を活用し、高レベルで非転送可能な特徴量を含む、複数レベルでの関係モデリングを実現する。
• タスクの類似度に基づいてパラメータ共有を正則化する確率的フレームワークを用い、ネガティブな転送を低減し、一般化性能を向上させる。
• 行列ノルム事前分布の下で全タスクの同時尤度を最適化することで、タスク間で共有されるインダクティブバイアスを有するエンドツーエンド学習を可能にする。
• 共有表現を学習しつつ、後段のレイヤーでタスク固有の特徴を保持することができるインダクティブ転送をサポートする。

実験結果

リサーチクエスチョン

• RQ1 非転送可能な分類器レイヤーを含む、深層ニューラルネットワークの複数レイヤーにわたるタスク関係を効果的にモデル化する方法は何か？
• RQ2 行列ノルム事前分布を用いることで、マルチタスク学習における特徴量転送の向上とネガティブな転送の低減はどの程度達成できるか？
• RQ3 転送可能な特徴量とタスク関係を共同で最適化することで、マルチドメイン認識タスクにおける性能向上が達成できるか？
• RQ4 DRNは、既存のマルチタスク学習手法と比較して、アンダーライフ転送とネガティブな転送の是正においてどのように優れているか？

主な発見

• DRNは、標準的なマルチドメイン物体認識データセットで最先端の分類性能を達成した。
• すべてのタスク固有レイヤーに行列ノルム事前分布を適用することで、共有特徴量レイヤーにおけるネガティブな転送が効果的に低減された。
• 非転送可能なコンponentsでさえもタスク関係をモデル化することで、DRNは分類器レイヤーにおけるアンダーライフ転送を是正した。
• 実験的結果から、特徴量とタスク関係を共同で学習することで、多様なドメインにわたる一般化性能が向上することが示された。
• 本手法は、複数のベンチマークデータセットで一貫した性能向上を示し、ネットワークの全レベルでタスク相関をモデル化する有効性が確認された。