[論文レビュー] Unsupervised Domain Adaptation for Image Classification via Structure-Conditioned Adversarial Learning

Hui Wang, Jian Tian+5 more|arXiv (Cornell University)|Mar 4, 2021

Domain Adaptation and Few-Shot Learning参考文献 55被引用数 5

ひとこと要約

本稿では、教師なしドメイン適応（UDA）のためのエンドツーエンドの非教師付きドメイン適応手法である構造条件付き対抗学習（SCAL）を提案する。この手法は、クラスタリングから得られる局所的構造を対抗学習における条件として統合することで、ターゲットドメインの特徴量におけるクラス内コンパクト性を維持する。繰り返し局所的構造を構築し、微分可能代替クラスタリングを用いて対抗プロセスを最適化することで、Office-31 や VisDA-2017 といったベンチマークデータセットで最先端の性能を達成する。

ABSTRACT

Unsupervised domain adaptation (UDA) typically carries out knowledge transfer from a label-rich source domain to an unlabeled target domain by adversarial learning. In principle, existing UDA approaches mainly focus on the global distribution alignment between domains while ignoring the intrinsic local distribution properties. Motivated by this observation, we propose an end-to-end structure-conditioned adversarial learning scheme (SCAL) that is able to preserve the intra-class compactness during domain distribution alignment. By using local structures as structure-aware conditions, the proposed scheme is implemented in a structure-conditioned adversarial learning pipeline. The above learning procedure is iteratively performed by alternating between local structures establishment and structure-conditioned adversarial learning. Experimental results demonstrate the effectiveness of the proposed scheme in UDA scenarios.

研究の動機と目的

• 既存の教師なしドメイン適応（UDA）手法がドメイン分布をグローバルに一致させつつも、ターゲットドメインにおけるクラス内コンパクト性を無視するという制限を是正すること。
• ドメイン適応の過程で、ターゲットドメイン特徴量の内在的局所的構造を明示的にモデル化・維持する手法を開発すること。
• クラスタリングの非微分性を補うために、構造条件用の微分可能ニューラルネットワーク代替を導入することで、エンドツーエンドの学習を可能にすること。
• 構造に配慮した条件を組み込むことで、UDA環境における汎化性能とロバスト性が向上することを実証すること。

提案手法

• クラスタリングに基づく局所的構造を対抗学習の条件として用いる、新しい構造条件付き対抗学習（SCAL）フレームワークを提案する。
• ターゲットドメイン特徴量からの局所的構造情報を対抗学習パイプラインに統合し、ドメイン整合を促進するとともにクラス内コンパクト性を維持する。
• クラスタリングプロセスの非微分性を補うために、微分可能なニューラルネットワークを代替として採用し、バックプロパゲーションをエンドツーエンドで可能にする。
• 2段階のプロセスを交互に実行する：(1) ターゲット特徴量に対してクラスタリングを用いて局所的構造を構築し、(2) クラスターベースの条件を用いた構造条件付き対抗学習を実施する。
• 評価用にソース分類器の出力を偽ラベルとして用い、一貫性を保つために訓練ループに統合する。
• t-SNE可視化とA-distance解析を用いて、コンパクト性の維持とドメインシフトの低減を検証する。

実験結果

リサーチクエスチョン

• RQ1 ターゲットドメインからの局所的構造的情報を組み込むことで、ドメイン適応の性能が向上するか？
• RQ2 構造条件付き対抗学習は、標準的なドメイン整合と比較して、クラス内コンパクト性をより効果的に保持するか？
• RQ3 ターゲットドメインにおけるノイズ混じりまたは不完全なクラスタラベルに対して、本手法はどれほどロバストか？
• RQ4 クラスタリングのための微分可能代替が、構造に配慮したUDAフレームワークにおけるエンドツーエンド学習を可能にするか？
• RQ5 SCALは、DANN、JAN、MCD といった最先端手法と比較して、正確性と汎化性能において優れているか？

主な発見

• Office-31 の A→W タスクにおいて、SCAL は 93.5% の精度を達成し、ベースラインの ResNet-50（82.0%）や DANN を顕著に上回った。
• VisDA-2017 の合成データから実データへのベンチマークでは、SCAL は最先端の性能を達成し、優れた汎化性能を示した。
• 75% のノイズ混じりクラスターラベルでも、SCAL はベースラインより 4.9% の精度向上を達成し、ラベルノイズに対して高いロバスト性を示した。
• A-distance メトリクスにより、SCAL は DANN よりもドメイン分布の乖離をより効果的に低減していることが確認され、より優れたドメイン整合が実現されていることが示された。
• 1エポックあたりの計算コストは約15%増加したが、実用的な用途においても許容範囲内であった。
• 可視化結果から、SCAL は標準的な対抗手法とは異なり、ターゲットドメインにおけるクラス内コンパクト性を維持するとともにドメインシフトを低減していることが確認された。