[論文レビュー] f-Domain-Adversarial Learning: Theory and Algorithms

David Acuna, Guojun Zhang+2 more|arXiv (Cornell University)|Jun 21, 2021

Domain Adaptation and Few-Shot Learning被引用数 8

ひとこと要約

本稿では、変分f-発散に基づく一般化境界を導出することで、元の DANN アルゴリズムに対する理論的裏付けのある補正を可能にする、新規のドメイン適応フレームワーク f-Domain-Adversarial Learning (f-DAL) を提案する。この手法は、追加の正則化項やハイパーパrameterを必要とせず、特に現実のビジョンおよび NLP ベンチマークにおけるピアソン χ² 発散で最先端の性能を達成する。

ABSTRACT

Unsupervised domain adaptation is used in many machine learning applications where, during training, a model has access to unlabeled data in the target domain, and a related labeled dataset. In this paper, we introduce a novel and general domain-adversarial framework. Specifically, we derive a novel generalization bound for domain adaptation that exploits a new measure of discrepancy between distributions based on a variational characterization of f-divergences. It recovers the theoretical results from Ben-David et al. (2010a) as a special case and supports divergences used in practice. Based on this bound, we derive a new algorithmic framework that introduces a key correction in the original adversarial training method of Ganin et al. (2016). We show that many regularizers and ad-hoc objectives introduced over the last years in this framework are then not required to achieve performance comparable to (if not better than) state-of-the-art domain-adversarial methods. Experimental analysis conducted on real-world natural language and computer vision datasets show that our framework outperforms existing baselines, and obtains the best results for f-divergences that were not considered previously in domain-adversarial learning.

研究の動機と目的

• f-発散に基づく一般化境界を導出することで、ドメイン適応理論と実践的アドバーシャルトレーニング手法の間のギャップを埋めること。
• Ganin 他 (2016) が提唱した元のドメインアドバーシャルトレーニング (DANN) 法に内在する根本的欠陥を同定・是正すること。この欠陥は、意図した発散最小化と一致していなかった。
• 訓練手順が適切に是正されれば、既存のドメインアドバーシャル手法で用いられる多くの任意の正則化項や目的関数が不要であることを示すこと。
• さまざまな f-発散（JS、ピアソン χ² など）がドメイン乖離を最小化し、転移学習を向上させる上でどのように機能するかを評価すること。
• f-DAL においてピアソン χ² 発散を用いることで、追加の技術やハイパーパrameterチューニングなしに最先端の手法を上回ることを示すこと。

提案手法

• 変分的 f-発散の特徴を用いて、未教師ドメイン適応のための新しい一般化境界を導出する。この境界は $χ\Delta\u03c7$-発散を一般化しており、全変動距離と JS-発散を特別な場合として含む。
• DANN のドメイン識別器を f-発散の最小化として再解釈し、元の手法が実際には JS-発散を最小化していることを明示する。
• ドメインアドバーシャルトレーニングを意図した f-発散最小化と整合させる修正された訓練目的を提案し、元の DANN フレームワークにおける勾配更新を是正する。
• これまでドメインアドバーシャル学習で使われていなかった f-発散を含む広範な f-発散をサポートする一般化されたアルゴリズムフレームワーク f-DAL を導入する。
• ドメイン識別器を、ソースおよびターゲット特徴を区別するように訓練する二重ネットワークアーキテクチャを採用し、損失関数は変分的 f-発散推定器から導出する。
• 標準的なディープラーニングバックボーンを用いて、Office-31 や Office-Home などの複数の現実世界データセットでフレームワークを検証し、さまざまな f-発散およびアブレーション設定における性能を比較する。

実験結果

リサーチクエスチョン

• RQ1 既存の理論的結果を包含する f-発散の変分的特徴を用いて、ドメイン適応のための一般化境界を導出できるか？
• RQ2 多くの最先端のドメインアドバーシャル手法が、元の DANN フレームワークに理論的根拠がないにもかかわらず、なぜ任意の正則化項や目的関数に依存しているのか？
• RQ3 特定の f-発散を最小化するようにドメインアドバーシャルネットワークを正しく訓練する正しい方法は何か？また、元の DANN 手順とはどのように異なるか？
• RQ4 ドメインアドバーシャルフレームワークで使用する f-発散の中で、どの発散が最も優れた転移性能を達成するか？また、追加の技術やハイパーパrameterが必要か？
• RQ5 f-DAL は、追加のアーキテクチャ的・最適化的変更なしに、MDD や CDAN よりも優れた性能を示せるか？

主な発見

• 提案された f-DAL フレームワークは、Office-31 や Office-Home といった複数のベンチマークデータセットで、追加の正則化項やハイパーパrameterチューニングなしに最先端の性能を達成する。
• f-DAL におけるピアソン χ² 発散は、従来の手法を上回り、一部の設定では MDD すら上回る。追加の技術を一切用いずに最良の結果を達成している。
• 元の DANN アルゴリズムに対する是正――勾配更新を真の f-発散最小化と整合させること――が、MDD が DANN を上回る理由を説明し、任意の目的関数の必要性を排除する。
• 実験の結果、f-DAL-JS（JS 発散を用いた f-DAL）は DANN や MDD と同等またはそれ以上の性能を示し、是正された訓練手順の有効性を裏付ける。
• ラベルシフトに対して頑健である：ラベル周辺分布に顕著な乖離があるデータセット（例：Office-Home）において、f-DAL-Pearson はサンプリングベースのアライメント（例：Jiang 他, 2020）と組み合わせると顕著な向上を示す。
• 理論的分析により、f-DAL が Ben-David 他 (2010a) の $χ\Delta\u03c7$-発散境界を一般化しており、JS やピアソン χ² といった実用的発散をサポートする。これにより、理論と実践の間の原則的つながりが確立される。