[論文レビュー] Multi-Source Domain Adaptation for Text Classification via DistanceNet-Bandits

Han Guo, Ramakanth Pasunuru+1 more|arXiv (Cornell University)|Jan 13, 2020

Domain Adaptation and Few-Shot Learning被引用数 28

ひとこと要約

本稿では、テキスト分類のためのマルチソース・ドメイン適応フレームワーク「DistanceNet-Bandits」を提案する。このフレームワークは、MMD、CORAL、コサインなど距離ベースの測度（補助損失関数として）を用いて、ソースドメインとターゲットドメインの表現を統合する。さらに、トレーニング中に最適なソースドメインを動的に選択するマルチアームド・バンディット制御器を導入し、感情分析ベンチマークで最先端の性能を達成した。これはドメインシフト誤差を低減し、リソースが限られたターゲットでの一般化性能を向上させた。

ABSTRACT

Domain adaptation performance of a learning algorithm on a target domain is a function of its source domain error and a divergence measure between the data distribution of these two domains. We present a study of various distance-based measures in the context of NLP tasks, that characterize the dissimilarity between domains based on sample estimates. We first conduct analysis experiments to show which of these distance measures can best differentiate samples from same versus different domains, and are correlated with empirical results. Next, we develop a DistanceNet model which uses these distance measures, or a mixture of these distance measures, as an additional loss function to be minimized jointly with the task's loss function, so as to achieve better unsupervised domain adaptation. Finally, we extend this model to a novel DistanceNet-Bandit model, which employs a multi-armed bandit controller to dynamically switch between multiple source domains and allow the model to learn an optimal trajectory and mixture of domains for transfer to the low-resource target domain. We conduct experiments on popular sentiment analysis datasets with several diverse domains and show that our DistanceNet model, as well as its dynamic bandit variant, can outperform competitive baselines in the context of unsupervised domain adaptation.

研究の動機と目的

• 自然言語処理タスクにおけるドメインの相違度を推定するためのさまざまな距離ベースの測度を調査・比較すること。
• タスク損失とドメイン乖離損失を同時に最小化するモデル「DistanceNet」を構築し、教師なしドメイン適応を改善すること。
• マルチアームド・バンディット制御器を用いてマルチソース設定に拡張し、トレーニング中に最適なソースドメインを動的に選択すること。
• 多様なドメインを有する実世界の感情分析データセットにおいて、距離測度および提案フレームワークの有効性を評価すること。

提案手法

• 本稿では、L2、最大平均差分（MMD）、フィッシャー線形判別（FDA）、コサイン、相関整合（CORAL）の5つの距離測度を評価する。
• DistanceNetは、ソースドメインとターゲットドメインの特徴量の分布差を最小化するために、これらの距離測度をトレーニング中に追加の損失項として統合する。
• 距離測度の混合を用い、無教師基準によりハイパーパrameterへの感受性を低減し、より高いロバスト性を実現する。
• マルチソース適応のため、各トレーニングステップでパフォーマンスフィードバックに基づき、最も効果的なソースドメインを動的に選択するマルチアームド・バンディット制御器を導入する。
• バンディット方策は、分類損失および距離損失と同時にエンドツーエンドで学習され、適応的ドメインスケジューリングを可能にする。
• 実験は、5つのドメイン（MR、Books、Apparel、Baby、Camera）を有するマルチドメイン感情分析データセットで実施された。

実験結果

リサーチクエスチョン

• RQ1 自然言語処理タスクにおいて、同じドメインまたは異なるドメインからのサンプルを区別するのに、どのドメイン距離測度が最も効果的か？
• RQ2 異なる距離測度は、実験的ドメイン適応性能とどのように相関するか？
• RQ3 複数の距離測度を組み合わせることで、単一測度ベースラインを上回る教師なしドメイン適応が達成可能か？
• RQ4 動的でバンディット駆動のソースドメイン選択は、静的またはラウンドロビンスケジューリングを上回る性能を発揮できるか？

主な発見

• MMDに基づくDistanceNetモデルは、ドメイン外設定の平均性能において、ベースラインを1標準偏差上回った。
• DistanceNetにおける距離測度の混合は、平均性能が最も高く、ベースラインを2標準偏差上回った。
• DistanceNet-Banditモデルは、個々のターゲットドメインの結果を向上させ、非バンディットベースライン比で平均1.1ポイントの向上を達成した。この改善は2標準偏差レベルで有意であった。
• 可視化により、バンディット制御器が文脈に応じたドメイン選好を学習していることが示された。例えば、「MR」ターゲットでは「Books」、および「Baby」ターゲットでは「Apparel」を好む傾向が見られた。
• 単一ソース実験からのハイパーパrameterを再利用しても、バンディットは非バンディットベースラインを一貫して上回った。これは、ロバスト性と適応性の高さを示している。