[論文レビュー] Characterizing and Avoiding Negative Transfer

Zirui Wang, Zihang Dai+2 more|arXiv (Cornell University)|Nov 24, 2018

Domain Adaptation and Few-Shot Learning参考文献 39被引用数 16

ひとこと要約

本稿では、転移学習における負の転送の形式的定義を提案し、有害なソースデータをフィルタリングする汎用的で敵対的なゲーティング機構を導入する。ドメイン・ディスクリミネーターを用いてソース・ターゲット分布のずれを推定することで、6つのディープ転移学習モデルにおいて一貫した性能向上が達成され、劣悪なソースデータが存在する状況でも負の転送を効果的に回避できる。

ABSTRACT

When labeled data is scarce for a specific target task, transfer learning often offers an effective solution by utilizing data from a related source task. However, when transferring knowledge from a less related source, it may inversely hurt the target performance, a phenomenon known as negative transfer. Despite its pervasiveness, negative transfer is usually described in an informal manner, lacking rigorous definition, careful analysis, or systematic treatment. This paper proposes a formal definition of negative transfer and analyzes three important aspects thereof. Stemming from this analysis, a novel technique is proposed to circumvent negative transfer by filtering out unrelated source data. Based on adversarial networks, the technique is highly generic and can be applied to a wide range of transfer learning algorithms. The proposed approach is evaluated on six state-of-the-art deep transfer methods via experiments on four benchmark datasets with varying levels of difficulty. Empirically, the proposed method consistently improves the performance of all baseline methods and largely avoids negative transfer, even when the source data is degenerate.

研究の動機と目的

• 転移学習における負の転送の明確で厳密な定義と体系的な分析の欠如に取り組む。
• アルゴリズム依存性、ドメインの乖離、ターゲットデータの可用性といった、負の転送に寄与する主な要因を同定する。
• ラベル付きターゲットデータを必要とせず、負の転送を検出・回避できる汎用的で実装可能な手法を開発する。
• 提案手法が幅広いディープ転移学習アルゴリズムと互換性を持つことを保証する。

提案手法

• リスクの比較に基づく、アルゴリズムに特化した負の転送の形式的定義を提示：$ R_{P_T}(A( ext{S}, ext{T})) > R_{P_T}(A( ext{empty}, ext{T})) $、ここでソースデータを用いる場合のモデル性能は、それを無視した場合より劣る。
• 敵対的ネットワークを用いて、ソースおよびターゲットデータの周辺分布と同時分布を推定するディスクリミネーター・ゲート機構を導入する。
• ディスクリミネーターの出力をインスタンス重みとして用い、ターゲットからの分布のずれが大きいソースサンプルを再重み付け・フィルタリングする。
• ゲートを重要度再重み付けの一種として定式化し、ソースとターゲットのリスクのバイアスを低減することで、負の転送を効果的に最小化する。
• メインモデルと同時にエンドツーエンドで訓練することで、学習中に関係のないまたは有害なソース例を動的にフィルタリング可能にする。
• 既存の転移学習フレームワークにプラグインとして適用可能であり、最先端のディープモデルと互換性を保つ。

実験結果

リサーチクエスチョン

• RQ1 テスト時に測定可能であり、かつ厳密な定義である負の転送を、どのように形式的に定義できるか？
• RQ2 負の転送を引き起こす主な要因は何か？ それらは転移学習アルゴリズムとどのように作用し合うか？
• RQ3 有害なソースデータを転送前に検出しフィルタリングできる、汎用的かつモデルに依存しない手法を設計できるか？
• RQ4 提案手法は、負の転送の状況下でも、多様なディープ転移学習アルゴリズムにおいて一貫して性能を向上させるか？

主な発見

• 提案されたディスクリミネーター・ゲート手法は、4つのベンチマークデータセット上で6つのベースラインディープ転移学習モデルの性能を一貫して向上させる。
• 実験結果から、ソースデータが劣悪であるか、ターゲットドメインと著しく異なる場合でも、本手法が負の転送を効果的に回避していることが示された。
• ディスクリミネーター出力の分布から、標準的な DANN はすべてのソースサンプルにほぼ均一な重み（約0.5）を割り当てているのに対し、ゲーティング版では、変更された（関係のない）データに対しては著しく低い重みが割り当てられていることが明らかになった。
• 有害なソースデータのリスクを、分布のずれが大きいインスタンスをフィルタリングすることで低減しており、これは、変更済みソースサンプルにおける平均重みが低いことからも裏付けられている。
• 形式的な負の転送の定義により、従来の非形式的使用における曖昧さが解消され、負の転送の影響をアルゴリズム固有で測定可能にした。
• 実験により、負の転送はアルゴリズム選択、ドメインの乖離、ターゲットデータの可用性に影響を受けることが確認され、理論的分析の妥当性が裏付けられた。