[論文レビュー] Domain-Adversarial Training of Neural Networks

Yaroslav Ganin, Evgeniya Ustinova+6 more|arXiv (Cornell University)|May 28, 2015

Autopsy Techniques and Outcomes被引用数 75

ひとこと要約

本稿では、ドメイン特徴の不変性を学習するために敵対的訓練を行うことで、教師ありドメイン適応のためのドメイン敵対的ニューラルネットワーク（DANN）を提案する。この手法は、ソースドメインとターゲットドメインを区別するドメイン分類器を敵対的に訓練する一方で、特徴抽出器がそれをだますように最適化される。このアプローチは、ラベル付きソースデータとラベルなしターゲットデータのみを用いて、勾配反転層を介して最小限のアーキテクチャ変更で、画像分類、センチメント分析、人物再識別ベンチマークで最先端の性能を達成する。

ABSTRACT

We introduce a new representation learning approach for domain adaptation, in which data at training and test time come from similar but different distributions. Our approach is directly inspired by the theory on domain adaptation suggesting that, for effective domain transfer to be achieved, predictions must be made based on features that cannot discriminate between the training (source) and test (target) domains. The approach implements this idea in the context of neural network architectures that are trained on labeled data from the source domain and unlabeled data from the target domain (no labeled target-domain data is necessary). As the training progresses, the approach promotes the emergence of features that are (i) discriminative for the main learning task on the source domain and (ii) indiscriminate with respect to the shift between the domains. We show that this adaptation behaviour can be achieved in almost any feed-forward model by augmenting it with few standard layers and a new gradient reversal layer. The resulting augmented architecture can be trained using standard backpropagation and stochastic gradient descent, and can thus be implemented with little effort using any of the deep learning packages. We demonstrate the success of our approach for two distinct classification problems (document sentiment analysis and image classification), where state-of-the-art domain adaptation performance on standard benchmarks is achieved. We also validate the approach for descriptor learning task in the context of person re-identification application.

研究の動機と目的

• トレーニングデータとテストデータが異なるが関連する分布から来ることによるドメインシフトの問題に対処すること。
• ラベルなしターゲットデータを必要とせずに、ラベル付きソースデータで訓練されたモデルをラベルなしターゲットドメインに効果的に転送できること。
• 主タスクに対して判別力があり、かつドメインシフトに対して不変であるような深層表現を学習すること。
• 標準的なバックプロパゲーションを用いて、ドメイン適応を深層特徴学習プロセスに直接統合すること。
• 本手法の有効性を、画像分類、センチメント分析、人物再識別を含む多様なタスクにおいて示すこと。

提案手法

• 標準的な順方向ニューラルネットワークにドメイン分類器ヘッドと勾配反転層を追加し、ドメイン不変性を強制する。
• 勾配反転層を用い、バックプロパゲーション中に勾配の流れを逆転させることで、特徴抽出器がドメイン分類器の損失を最小化しつつ、それを最大化するように最適化される。
• ラベル予測器とドメイン分類器の両方を共有最適化で、標準的な確率的勾配降下法を用いてエンドツーエンドで訓練する。
• 共同訓練目的関数を採用：ソースラベルの分類損失を最小化すると同時に、ドメイン分類損失を最大化することでドメイン不変特徴を促進する。
• 共通の特徴抽出器の直後に勾配反転層を挿入することで、あらゆるアーキテクチャに適用可能であり、任意のバックプロパゲーションベースの深層学習フレームワークと互換性を持つ。
• 記述子学習には二項尤度損失、ドメイン分類にはロジスティック損失を用い、各タスクに合わせてハイパーパrameterを調整する。

実験結果

リサーチクエスチョン

• RQ1 ラベル付きクラス分類とドメインシフトに対して不変であるような特徴を学習できるような深層ニューラルネットワークを訓練できるか？
• RQ2 ラベル付きソースデータとラベルなしターゲットデータのみを用いて、ドメイン不変表現を学習できるか？
• RQ3 勾配反転層を用いた敵対的訓練は、画像分類とセンチメント分析におけるドメインシフトの一般化を向上させるか？
• RQ4 提案手法は分類を越えて、人物再識別における記述子学習のような他の順方向タスクにも適用可能か？
• RQ5 標準ベンチマークにおいて、既存のドメイン適応手法と比較して、ドメイン敵対的アプローチはどの程度効果的か？

主な発見

• ドメイン敵対的訓練は、画像分類とセンチメント分析の標準ベンチマークで最先端の性能を達成し、先行手法を上回った。
• 本手法は、8組のデータセットペアにおいて一貫して人物再識別性能を向上させ、特にPRIDやVIPeRのようなより相違度の高いペアで顕著な向上が見られた。
• VIPeR → CUHK/p1 の再識別タスクでは、t-SNE可視化において、ソースドメインとターゲットドメインの記述子がよりよく混合していた。
• データセットの複雑さに応じて、50,000回または20,000回の訓練イテレーションで十分な収束を示し、効率的な収束を示した。
• 勾配反転層により、アーキテクチャの再設計を必要とせずにドメインアドバーサリーを効果的にバックプロパゲーション可能にしたため、本手法は広範に適用可能であった。
• 分類を越えて一般化がうまくいった。人物再識別の記述子学習に二項尤度損失を適用し、CMC曲線が改善された。