[論文レビュー] Factorized Adversarial Networks for Unsupervised Domain Adaptation

Jian Ren, Shuicheng Yan+2 more|arXiv (Cornell University)|Jun 4, 2018

Domain Adaptation and Few-Shot Learning参考文献 32被引用数 5

ひとこと要約

本稿では、潜在特徴をタスク固有およびドメイン固有の部分空間に分離する新しい教師なしドメイン適応手法である因子化敵対的ネットワーク（FAN）を提案する。GANベースの学習を用いて、源ドメインと標的ドメイン間でタスク固有部分空間のみを敵対的にアライニングすることで、ベンチマークドメインデータセットおよび大規模な実世界のタグ付けデータセットにおいて、従来手法（例：ADDA）を著しく上回る最先端の性能を達成する。

ABSTRACT

In this paper, we propose Factorized Adversarial Networks (FAN) to solve unsupervised domain adaptation problems for image classification tasks. Our networks map the data distribution into a latent feature space, which is factorized into a domain-specific subspace that contains domain-specific characteristics and a task-specific subspace that retains category information, for both source and target domains, respectively. Unsupervised domain adaptation is achieved by adversarial training to minimize the discrepancy between the distributions of two task-specific subspaces from source and target domains. We demonstrate that the proposed approach outperforms state-of-the-art methods on multiple benchmark datasets used in the literature for unsupervised domain adaptation. Furthermore, we collect two real-world tagging datasets that are much larger than existing benchmark datasets, and get significant improvement upon baselines, proving the practical value of our approach.

研究の動機と目的

• ラベル付きデータが源ドメインでのみ利用可能な画像分類における教師なしドメイン適応を解決すること。
• 潜在特徴をドメイン固有およびタスク固有の部分空間に因子化することでドメインシフトを低減すること。
• 敵対的訓練を用いてタスク固有部分空間のみをアライニングすることで、標的ドメインへの一般化性能を向上させること。
• 標準ベンチマークデータセットおよび新しく収集した大規模な実世界のタグ付けデータセットにおける有効性を検証すること。

提案手法

• ネットワークは、源ドメインおよび標的ドメインの両方の潜在特徴をドメイン固有部分空間（DSS）とタスク固有部分空間（TSS）に因子化し、相互情報量損失を用いた正規直交性制約によって強制する。
• 源ドメインでは、分類損失と再構成損失を併用してネットワークを共同学習させ、DSS特徴をログティと連結して入力画像を再構成する。
• 標的ドメインでは、TSSの源ドメインと標的ドメインのTSSをアライニングするために、敵対的損失と再構成損失を用いる。
• ドメイン分類用の識別器ネットワークを訓練し、源ドメインと標的ドメインのTSS特徴を区別させることで、GANスタイルの敵対的訓練により分布差を最小化する。
• エンコーダにはResNet-50を、再構成用のデコーダにはDCGANスタイルの構造を用い、ドメイン分類用に3層の全結合識別器を採用する。
• 2段階の訓練プロセスを採用：まずラベル付きデータを用いて源ドメインで事前学習を行い、次にラベルなしデータを用いて標的ドメインで敵対的適応を実行する。

実験結果

リサーチクエスチョン

• RQ1 潜在特徴をドメイン固有およびタスク固有の部分空間に分離することで、教師なしドメイン適応の性能が向上するか？
• RQ2 タスク固有部分空間のみを敵対的にアライニングすることで、統合的ドメイン不変特徴学習よりも良好な一般化性能が得られるか？
• RQ3 複雑なドメインシフトを示す大規模な実世界の画像データセットにおいて、本手法はどの程度の性能を示すか？
• RQ4 より多くのラベルなし標的サンプルを用いることで、適応性能がどの程度向上するか？

主な発見

• Mobileデータセットでは、FANは全標的学習データを用いてTop-1精度46.32%を達成し、ADDAを2.46ポイント上回った。
• 標的学習データの10%のみを用いても、FANは非適応ベースラインよりTop-1精度を3.75ポイント向上させた。
• MNIST、USPS、SVHNのベンチマークデータセットにおいて、FANは既存の最先端手法を上回る最先端の性能を達成した。
• 本手法は、それぞれ115,000枚以上の画像と100個の共有クラスを有する2つの新規に収集した実世界データセット（CrawlingおよびMobile）において顕著な改善を示した。
• アブレーションスタディにより、ラベルなし標的画像の数を増やすことでモデル性能が向上することが確認され、全標的セットを用いる際にはTop-1精度が10%以上向上した。
• 可視化と分析により、タスク固有部分空間がクラス関連特徴を捉え、ドメイン固有部分空間がドメイン固有のノイズを符号化していることが確認され、因子化設計の有効性が裏付けられた。