[論文レビュー] Dual Adversarial Domain Adaptation

Yuntao Du, Zhiwen Tan+4 more|arXiv (Cornell University)|Jan 1, 2020

Domain Adaptation and Few-Shot Learning参考文献 31被引用数 9

ひとこと要約

本稿では、1つの2K次元判別器を用いてドメインレベルおよびクラスレベルの分布を同時に統合的に整列させる、Dual Adversarial Domain Adaptation (DADA) という新しい手法を提案する。また、2つの判別器間で二重の敵対的メカニズムを導入することで、特徴の多様性と耐性を向上させる。本手法は、Office-31およびImageCLEF-DAベンチマークで最先端の性能を達成し、特徴の識別性の向上と分布差の低減により、ベースライン手法よりも平均精度で1.0%の向上を達成した。

ABSTRACT

Unsupervised domain adaptation aims at transferring knowledge from the labeled source domain to the unlabeled target domain. Previous adversarial domain adaptation methods mostly adopt the discriminator with binary or $K$-dimensional output to perform marginal or conditional alignment independently. Recent experiments have shown that when the discriminator is provided with domain information in both domains and label information in the source domain, it is able to preserve the complex multimodal information and high semantic information in both domains. Following this idea, we adopt a discriminator with $2K$-dimensional output to perform both domain-level and class-level alignments simultaneously in a single discriminator. However, a single discriminator can not capture all the useful information across domains and the relationships between the examples and the decision boundary are rarely explored before. Inspired by multi-view learning and latest advances in domain adaptation, besides the adversarial process between the discriminator and the feature extractor, we also design a novel mechanism to make two discriminators pit against each other, so that they can provide diverse information for each other and avoid generating target features outside the support of the source domain. To the best of our knowledge, it is the first time to explore a dual adversarial strategy in domain adaptation. Moreover, we also use the semi-supervised learning regularization to make the representations more discriminative. Comprehensive experiments on two real-world datasets verify that our method outperforms several state-of-the-art domain adaptation methods.

研究の動機と目的

• ドメイン間で複雑でマルチモーダルな特徴構造を捉えるために、単一の判別器アプローチの限界を解消すること。
• 統一されたフレームワーク内でドメインレベルとクラスレベルの分布を同時に整列させ、周辺分布と条件分布の最適化を別々に行うのを避けること。
• 2つの判別器が補完的表現を学ぶように、二重の敵対的メカニズムを導入することで、特徴の識別性を向上させること。
• 判別器の不一致を活用することで、サポートされないターゲットサンプルに対する耐性を高めること。
• 自己教師付き学習の正則化（エントロピー最小化とVAT）を統合し、疑似ラベルの品質と表現学習を向上させること。

提案手法

• 各入力に対してドメイン（ソース／ターゲット）とクラス（Kクラス）を同時に分類できる2K次元の判別器を用い、ドメインレベルとクラスレベルの同時整列を実現する。
• 2つの判別器を二重の敵対的学習で訓練する：ターゲットサンプルに対して最大の不一致を生じさせることで、多様で補完的な特徴を学習させる。
• 特徴抽出器は、ターゲットサンプルにおける2つの判別器の予測の差を最小化するように最適化され、ソースドメインのサポート外の特徴の生成を防ぐ。
• 自己教師付き学習の正則化としてエントロピー最小化とVirtual Adversarial Training (VAT) を適用し、特徴の識別性と耐性を向上させる。
• 学習目的関数は、敵対的損失、ドメイン・クラス分類損失、およびSSL正則化を組み合わせており、ハイパーパrameter λ_dta1, λ_dsa2, λ_dta2, ε を用いる。
• 本手法はOffice-31およびImageCLEF-DAで評価され、分布差の測定指標としてA-distance、性能指標として精度が主に用いられる。

実験結果

リサーチクエスチョン

• RQ1 1つの2K次元判別器を用いたドメインレベルとクラスレベルの統合的整列は、別個または2値の判別器を用いた手法と比較して、ドメイン適応性能を向上させるか？
• RQ2 2つの判別器間の二重敵対的学習メカニズムは、特徴の多様性を向上させ、サポート外のターゲットサンプルの検出を改善するか？
• RQ3 自己教師付き学習正則化を統合することで、ドメイン適応における疑似ラベルの品質と特徴表現の質はどの程度向上するか？
• RQ4 大規模なドメインシフトや不均衡なドメインスケール（例：D→AおよびW→Aタスク）の下で、本手法はどのように性能を示すか？
• RQ5 A-distanceで測定した分布差に照らして、二重敵対的メカニズムは既存手法よりも分布差をより効果的に低減できるか？

主な発見

• Office-31データセットでは、DADAは比較手法すべての中で最高の平均精度を達成し、DANN、ADDA、MADA、RCAを上回った。
• SSL正則化を除去した場合でも、ベースラインより平均精度が1.0%向上した。これはエントロピー最小化とVATの有効性を裏付ける。
• ImageCLEF-DAでは、DADAはResNet-50のソースオンリーモデルの80.7%から89.3%へと精度を向上させ、バランスの取れた多ドメインデータにおける優れた一般化性能を示した。
• A-distance指標から、DADAは最小のドメイン間差異（D→Wで1.14、W→Dで1.18）を達成しており、より優れたドメイン不変表現学習を示している。
• 大規模なドメインシフトが生じる困難なタスク（例：D→AおよびW→A）においても、DADAは強力な性能を維持しており、分布シフトに対する耐性があることが示された。
• t-SNEを用いた特徴可視化により、DADAはソースオンリーベースラインと比較して、よりよく整列され、識別性の高いソースおよびターゲット特徴を生成することが確認された。