[論文レビュー] An introduction to domain adaptation and transfer learning

Wouter M. Kouw, Loog, Marco|arXiv (Cornell University)|Dec 31, 2018

Domain Adaptation and Few-Shot Learning参考文献 213被引用数 244

ひとこと要約

この技術報告は、ソースドメインで訓練された分類器がターゲットドメインへ一般化する時と方法を概説し、単純なデータシフトと適応戦略を詳述する。

ABSTRACT

In machine learning, if the training data is an unbiased sample of an underlying distribution, then the learned classification function will make accurate predictions for new samples. However, if the training data is not an unbiased sample, then there will be differences between how the training data is distributed and how the test data is distributed. Standard classifiers cannot cope with changes in data distributions between training and test phases, and will not perform well. Domain adaptation and transfer learning are sub-fields within machine learning that are concerned with accounting for these types of changes. Here, we present an introduction to these fields, guided by the question: when and how can a classifier generalize from a source to a target domain? We will start with a brief introduction into risk minimization, and how transfer learning and domain adaptation expand upon this framework. Following that, we discuss three special cases of data set shift, namely prior, covariate and concept shift. For more complex domain shifts, there are a wide variety of approaches. These are categorized into: importance-weighting, subspace mapping, domain-invariant spaces, feature augmentation, minimax estimators and robust algorithms. A number of points will arise, which we will discuss in the last section. We conclude with the remark that many open questions will have to be addressed before transfer learners and domain-adaptive classifiers become practical.

研究の動機と目的

• ドメイン適応と転移学習の一般的な問題と、分布シフト下で標準的な分類器がなぜ失敗するのかを説明する。
• ドメインを定義し、クロスドメイン一般化のリスク境界を形式化する。
• 単純なデータシフト（事前分布シフト、共変量シフト、概念シフト）を特徴づけ、対応する適応戦略を論じる。
• より複雑なドメインシフトに対するアプローチの分類（例：重要度重みづけ、部分空間写像、ドメイン不変空間、特徴量の拡張、ミニマックス推定量、ロバストアルゴリズム）を提示する。
• 転送学習者やドメイン適応分類器を実用化する際の未解決の問題と実務上の課題を強調する。

提案手法

• リスク最小化および経験的リスクフレームワークに基づいて議論を据える。
• HΔH発散などの測度と結合誤差 e*_{S,T} を用いたクロスドメイン設定の一般化境界を導入する。
• シフト下でのターゲットリスク推定量を、重要度重み付けと結合分布の比の調整（R_T(h) および関連形）を用いて導出する。
• データシフトを事前分布シフト、共変量シフト、概念シフトに分類し、それぞれに対応する適応手法を示す。
• より複雑なドメインシフト全体にわたる適応手法の構造化された概要を提供する（例：ドメイン不変空間、特徴量拡張、ミニマックス推定量、ロバスト法）。
• 実務での転移学習適用の限界と未解決の課題について論じる。

実験結果

リサーチクエスチョン

• RQ1 ソースドメインで訓練された分類器がターゲットドメインへ一般化できる条件は何か？
• RQ2 データセットシフトの異なるタイプ（事前分布、共変量、概念）がクロスドメイン一般化リスクにどのように影響するか？
• RQ3 ドメインシフトへの対処の主な適応戦略は何で、それらはリスク最小化の原理とどう関連するか？
• RQ4 ドメイン適応において、ソース訓練の性能とターゲットドメインの性能を関連付ける理論的境界は何か？
• RQ5 転送学習者を実用化する上での主要な未解決問題と実務的障壁は何か？

主な発見

• ソースとターゲットドメイン間の関係が明示されている場合、例えば HΔH発散と理想的結合誤差 e*_{S,T} によってクロスドメイン一般化境界を確立できる。
• ソース訓練分類器のターゲット誤差と最適ターゲット分類器のターゲット誤差の差は、結合誤差の和、ドメイン発散、および複雑さ項の和で境界付けられる。
• 事前分布シフト、共変量シフト、概念シフトはそれぞれ、ターゲットデータのラベルなしでターゲットリスクを推定するための異なる再重み付けや打ち消し技法を認める（適用可能な場合）。
• 共変量シフトと事前分布シフトは、ターゲット確率を反映させるようサンプリング重みや結合分布比を調整することで対処できる。
• 概念シフトは、ラベル付きターゲットデータがないと依然として困難で、ラベル付きターゲット観測に依存する条件付き分布の推定を必要とする。