[論文レビュー] Adversarial Domain Adaptation Being Aware of Class Relationships

Zeya Wang, Baoyu Jing+4 more|arXiv (Cornell University)|May 28, 2019

Domain Adaptation and Few-Shot Learning被引用数 7

ひとこと要約

この論文は、マルチクラスドメイン識別器と構造正則化項を通じて、クラス間の意味的関係を明示的にモデル化することで、ドメイン適応を向上させる新しい手法、関係認識型敵対的ドメイン適応（RADA）を提案する。ソースドメインにおけるラベル予測子から学習されたクラス間依存関係とドメイン識別子から得られるものを一致させることで、特徴の整合性が向上し、Office-31などのベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

Adversarial training is a useful approach to promote the learning of transferable representations across the source and target domains, which has been widely applied for domain adaptation (DA) tasks based on deep neural networks. Until very recently, existing adversarial domain adaptation (ADA) methods ignore the useful information from the label space, which is an important factor accountable for the complicated data distributions associated with different semantic classes. Especially, the inter-class semantic relationships have been rarely considered and discussed in the current work of transfer learning. In this paper, we propose a novel relationship-aware adversarial domain adaptation (RADA) algorithm, which first utilizes a single multi-class domain discriminator to enforce the learning of inter-class dependency structure during domain-adversarial training and then aligns this structure with the inter-class dependencies that are characterized from training the label predictor on source domain. Specifically, we impose a regularization term to penalize the structure discrepancy between the inter-class dependencies respectively estimated from domain discriminator and label predictor. Through this alignment, our proposed method makes the adversarial domain adaptation aware of the class relationships. Empirical studies show that the incorporation of class relationships significantly improves the performance on benchmark datasets.

研究の動機と目的

• ラベル空間における意味的クラス関係を無視する既存の敵対的ドメイン適応（ADA）手法の限界を是正すること。
• ソースドメインとターゲットドメイン間のクラス間依存関係を捉え、一致させることでドメイン適応を向上させること。
• ラベルから得られる高レベルの意味的構造を活用し、より正確な分布整合をガイドすること。
• 主なアーキテクチャの変更を要せず、敵対的学習プロセスにクラス関係認識を統合すること。

提案手法

• クラス固有のドメイン分類を実行できる単一のマルチクラスドメイン識別器を提案し、クラス間での知識共有とクラス間依存関係の学習を可能にする。
• ドメイン識別子から推定したクラス間依存関係と、ソースドメインにおけるラベル予測子から得られるものとの乖離をペナルティ化する構造正則化項を導入する。
• クラス間の関係を対称的な条件付き依存関係としてモデル化するため、ガウスグラフィカルモデルを用いる。
• トレースに基づく最適化を用いて正則化項を計算し、ドメイン識別子の依存構造がソースラベル予測子の構造と一致するように保証する。
• 標準的なDANNフレームワークにプラグインモジュールとして統合し、既存の敵対的ドメイン適応パイプラインと互換性を保つ。
• スペクトル分解と固有値解析を用いた閉形式解を採用することで、正則化最適化の計算効率を確保する。

実験結果

リサーチクエスチョン

• RQ1 ラベル空間におけるクラス間意味的関係のモデル化は、ドメイン適応性能の向上に寄与するか？
• RQ2 ドメイン識別子の依存構造とソースラベル予測子の構造を一致させることで、特徴の整合性はどのように向上するか？
• RQ3 単一のマルチクラスドメイン識別子は、クラス別識別子に比べて意味的なクラス間関係をよりよく捉えられるか？
• RQ4 構造正則化は、ドメインシフトのさまざまなシナリオにおいて、一般化性能をどの程度向上させるか？

主な発見

• RADAは、ResNet-50を用いた無教師ドメイン適応において、Office-31データセットでMADAや他のベースライン手法を上回り、平均精度87.3％を達成する。
• アブレーションスタディの結果、正則化を除いたマルチクラス識別子のみを用いる場合でもMADAを上回る性能を示すが、構造正則化を追加することでさらに0.9～1.1ポイントの精度向上が見られた。
• W→AおよびD→Aのドメイン適応タスクにおいて、RADA d→yとRADA y→dはそれぞれ71.3％および71.5％の精度を達成し、単一のマルチクラス識別子のみを用いたベースラインの68.5％および70.5％を上回った。
• 本手法は、すべてのドメイン移行方向において一貫した向上を示し、ドメインシフトに対して高いロバスト性を示した。
• アブレーション解析により、構造正則化がドメイン識別子とラベル予測子が推定するクラス間依存関係の乖離を顕著に低減していることが確認された。
• 提案手法はモジュラー構造を採用しており、アーキテクチャの大規模な見直しが不要なため、DANNのような既存の敵対的ドメイン適応フレームワークへの容易な統合が可能である。