[論文レビュー] Towards Stable and Comprehensive Domain Alignment: Max-Margin Domain-Adversarial Training

Jianfei Yang, Han Zou+2 more|arXiv (Cornell University)|Mar 30, 2020

Domain Adaptation and Few-Shot Learning参考文献 36被引用数 9

ひとこと要約

本稿では、従来のドメイン分類器の代わりに再構成ネットワーク（ARN）を導入することで、敵対的訓練の安定性を高め、特徴レベルおよびピクセルレベルのドメイン整合を可能にする、新しいドメイン適応手法であるMax-margin Domain-Adversarial Training（MDAT）を提案する。MDATは、視覚的および非視覚的ベンチマークにおいて最先端の性能を達成し、訓練の安定性とハイパーパrameter選択へのロバスト性が向上している。

ABSTRACT

Domain adaptation tackles the problem of transferring knowledge from a label-rich source domain to a label-scarce or even unlabeled target domain. Recently domain-adversarial training (DAT) has shown promising capacity to learn a domain-invariant feature space by reversing the gradient propagation of a domain classifier. However, DAT is still vulnerable in several aspects including (1) training instability due to the overwhelming discriminative ability of the domain classifier in adversarial training, (2) restrictive feature-level alignment, and (3) lack of interpretability or systematic explanation of the learned feature space. In this paper, we propose a novel Max-margin Domain-Adversarial Training (MDAT) by designing an Adversarial Reconstruction Network (ARN). The proposed MDAT stabilizes the gradient reversing in ARN by replacing the domain classifier with a reconstruction network, and in this manner ARN conducts both feature-level and pixel-level domain alignment without involving extra network structures. Furthermore, ARN demonstrates strong robustness to a wide range of hyper-parameters settings, greatly alleviating the task of model selection. Extensive empirical results validate that our approach outperforms other state-of-the-art domain alignment methods. Moreover, reconstructing adapted features reveals the domain-invariant feature space which conforms with our intuition.

研究の動機と目的

• 高容量のドメイン分類器が勾配反転の敵対的勾配を圧倒することで引き起こされるドメイン敵対的訓練（DAT）における訓練の不安定性を是正すること。
• 追加のネットワーク部品を追加せずに、特徴レベルおよびピクセルレベルのドメイン整合を可能にすること。
• 適応された特徴の再構成を通じて、学習されたドメイン不変特徴の解釈可能性を向上させること。
• ハイパーパrameterチューニングへの感受性を低減し、再現可能性および実用的導入を向上させること。

提案手法

• DATにおけるドメイン分類器の代わりに再構成ネットワーク（デコーダー）を用いる敵対的再構成ネットワーク（ARN）を提案し、ドメイン敵対的訓練を実行する。
• 再構成ネットワークにマックスマージン損失を適用することで、ドメイン分類器の識別能力を制限し、敵対的訓練プロセスの安定性を高める。
• 共有された特徴抽出器とラベル予測器を用い、再構成ネットワークがソースドメイン特徴を再構成する一方で、ターゲット特徴をマージンを超えて押し出すように設計する。
• エンドツーエンドの学習を可能にし、特徴抽出器がターゲット特徴を生成することで再構成ネットワークを欺き、それらをソースに似た特徴として再構成可能にする。
• 再構成能力を活用して、ドメイン不変特徴がどのように形成されるかを可視化・解釈可能にする。これにより、統合メカニズムの洞察が得られる。
• ドメインの混同度を制御するマージンハイパーパrameter mを導入し、m ≥ 1の条件下でデコーダーがドメイン分類器として機能することが保証される。

実験結果

リサーチクエスチョン

• RQ1 DATにおけるドメイン分類器を再構成ネットワークに置き換えることで、訓練の安定性と勾配の有効性が向上するか？
• RQ2 アーキテクチャの拡張なしに、同一のネットワークアーキテクチャで特徴レベルおよびピクセルレベルのドメイン整合を達成できるか？
• RQ3 適応された特徴の再構成が、ドメイン不変表現の構造に関する解釈可能なインサイトを提供するか？
• RQ4 標準的なDATと比較して、提案手法はハイパーパrameter設定にどれほど感受性を示すか？
• RQ5 顕著なドメインシフトを示すベンチマークにおいて、提案手法が最先端のドメイン適応手法を上回るか？

主な発見

• SVHN → MNISTベンチマークにおいてMDATは96.0%の精度を達成し、DANN（74.7%）や他のSOTA手法を顕著に上回った。
• ARNモデルは、α ∈ [0.01, 1.0]およびm ≥ 1の広いハイパーパrameter範囲において安定した訓練と収束を維持した。一方、DANNはα > 0.2になると収束しなかった。
• 再構成されたターゲット画像は、ソースドメインの画像に類似しており、MDATが暗黙の特徴間変換を通じてドメイン不変特徴を学習していることを視覚的に確認した。
• T-SNE可視化では、ARN（MDAT）がDANNよりも明確な決定境界とより良いドメイン統合を達成しており、両ドメインの特徴がクラスごとに明確に分離され、ドメイン間で整合的であった。
• マックスマージン損失は再構成ネットワークの識別能力を効果的に低減し、敵対的ゲームのバランスを保ち、特徴学習に向けたより効果的な勾配伝搬を可能にした。
• 広範なアブレーション実験により、再構成ネットワークそのものが追加の部品なしに包括的なドメイン統合を可能にし、視覚的および非視覚的タスクにわたり良好な一般化性能を示した。