[論文レビュー] Overcoming Negative Transfer: A Survey

Wen Zhang, Lingfei Deng+1 more|arXiv (Cornell University)|Sep 2, 2020

Domain Adaptation and Few-Shot Learning参考文献 149被引用数 32

ひとこと要約

本論文は、転移学習におけるネガティブトランスファー（NT）を克服するほぼ100のアプローチを包括的に調査し、方法を4つの分野に分類している：ソースおよびターゲットデータの品質、ドメインの乖離、統合アルゴリズム。マルチタスク学習、マルチリンガルモデル、およびラーニング・ライフタイム学習を含む、転移学習におけるNT軽減戦略について体系的なレビューを提供し、文献における重要なギャップを埋めている。

ABSTRACT

Transfer learning (TL) tries to utilize data or knowledge from one or more source domains to facilitate the learning in a target domain. It is particularly useful when the target domain has few or no labeled data, due to annotation expense, privacy concerns, etc. Unfortunately, the effectiveness of TL is not always guaranteed. Negative transfer (NT), i.e., the source domain data/knowledge cause reduced learning performance in the target domain, has been a long-standing and challenging problem in TL. Various approaches to overcome NT have been proposed in the literature. However, there has not been a systematic survey on overcoming NT. This paper fills the gap, by categorizing and reviewing near 100 approaches for combating NT, from four perspectives: source data quality, target data quality, domain divergence, and integrated algorithms. NT in related fields, e.g., multi-task learning, multilingual models, and lifelong learning, is also discussed.

研究の動機と目的

• 転移学習において、ソースドメインの知識がターゲットドメインのパフォーマンスを損なうという、継続的な課題（ネガティブトランスファー：NT）に対処すること。
• 特にリソースが限られたまたはデータが不足しているターゲットドメインにおいて、NTを軽減する既存のアプローチを特定・分類すること。
• マルチタスク学習、マルチリンガルモデル、およびラーニング・ライフタイム学習を含む、多様な学習パラダイムにおけるNT軽減戦略について体系的なレビューを提供すること。
• 4つの整合的な視点（ソースデータ品質、ターゲットデータ品質、ドメインの乖離、統合アルゴリズム）に分類することで、NTに関する散在する研究を統合すること。

提案手法

• NT軽減の98のアプローチを、4つの主要な視点に分類すること：ソースデータ品質、ターゲットデータ品質、ドメインの乖離、統合アルゴリズム。
• ソースドメインから信頼性の低いまたはノイジーな例をフィルタリングまたは再重み付けすることで、ソースデータ品質を向上させる手法を分析すること。
• アクティブラーニング、データ拡張、または不確実性推定を用いてターゲットデータ品質を向上させる技術を評価し、ネガティブな影響を低減すること。
• ドメイン適応およびアライメント技術を調査し、ソースとターゲットドメイン間のドメインシフトや分布的乖離を低減すること。
• 複数のNT軽減戦略を統合するハイブリッドアルゴリズム（例：動的重み付けやメタラーニングに基づくドメイン選択）をレビューすること。
• マルチタスク学習、マルチリンガルモデル、およびラーニング・ライフタイム学習などの関連分野への分析を拡張し、パラダイム間のNT軽減パターンを同定すること。

実験結果

リサーチクエスチョン

• RQ1 転移学習におけるネガティブトランスファーの主な原因は何であり、異なるデータおよびドメイン構成においてどのように変化するか？
• RQ2 既存の手法はNT軽減戦略をどのように分類またはグループ化しているか？また、特定された4つのカテゴリにおいて、支配的な設計パターンは何か？
• RQ3 データ品質とドメインの乖離は、ネガティブトランスファーにどの程度寄与しているか？現在のアプローチはこれらの要因をどのように対処しているか？
• RQ4 マルチタスク学習やラーニング・ライフタイム学習などの関連分野におけるNT軽減戦略は、転移学習におけるそれらと比較してどのように異なるか？
• RQ5 現在のNT軽減技術における主なギャップと制限は何か？今後の研究において最も有望な方向性は何か？

主な発見

• ほぼ100のNT軽減アプローチを4つの明確な視点に体系的に分類することで、既存の手法を理解・比較するための統一されたフレームワークが提供された。
• ノイズが多いまたは関連性のない例を含むソースデータに対して、フィルタリングや再重み付けによるソースデータ品質の向上は、広く用いられている戦略である。
• データ選択や拡張を用いたターゲットデータ品質の向上は、リソースが限られたターゲットドメインにおけるネガティブトランスファーのリスクを顕著に低減する。
• 敵対的アライメントや分布適応などのドメイン乖離低減技術は、広く用いられ、パフォーマンスの低下を最小限に抑えるのに効果的である。
• 動的ドメイン重み付けやメタラーニングで学習された注釈（attention）を含む、複数の戦略を統合するアルゴリズムは、多様な転移シナリオにおいてより高いロバスト性を示す。
• マルチリンガルモデルやラーニング・ライフタイム学習などの関連分野におけるNT軽減は、転移学習と類似した手法的特徴を示しており、コア技術のドメイン間適用可能性が示唆される。