[論文レビュー] Deep Reconstruction-Classification Networks for Unsupervised Domain Adaptation

Muhammad Ghifary, W. Bastiaan Kleijn+3 more|arXiv (Cornell University)|Jul 12, 2016

Domain Adaptation and Few-Shot Learning参考文献 42被引用数 58

ひとこと要約

本論文では、共有エンコーダを介してソースドメイン分類とターゲットドメインデータ再構成を同時に学ぶことで、教師なしドメイン適応を実現する深層学習モデル、Deep Reconstruction-Classification Networks (DRCN) を提案する。DRCN は、識別的特徴とターゲットドメイン構造の両方を捉える共有表現を学習することで、クロスドメインオブジェクト認識タスクにおいて、最先端手法と比較して最大 8% の高い精度を達成する。

ABSTRACT

In this paper, we propose a novel unsupervised domain adaptation algorithm based on deep learning for visual object recognition. Specifically, we design a new model called Deep Reconstruction-Classification Network (DRCN), which jointly learns a shared encoding representation for two tasks: i) supervised classification of labeled source data, and ii) unsupervised reconstruction of unlabeled target data.In this way, the learnt representation not only preserves discriminability, but also encodes useful information from the target domain. Our new DRCN model can be optimized by using backpropagation similarly as the standard neural networks. We evaluate the performance of DRCN on a series of cross-domain object recognition tasks, where DRCN provides a considerable improvement (up to ~8% in accuracy) over the prior state-of-the-art algorithms. Interestingly, we also observe that the reconstruction pipeline of DRCN transforms images from the source domain into images whose appearance resembles the target dataset. This suggests that DRCN's performance is due to constructing a single composite representation that encodes information about both the structure of target images and the classification of source images. Finally, we provide a formal analysis to justify the algorithm's objective in domain adaptation context.

研究の動機と目的

• ラベル付きソースデータとラベルなしターゲットデータが異なるが関連するドメインから得られるというデータセットバイアスの課題に対処すること。
• トレーニングデータとテストデータが異なるドメインに存在する場合に失敗する従来の教師あり学習の限界を克服すること。
• ターゲットラベルを必要とせず、ラベルなしターゲットデータを活用して一般化性能を向上させるスケーラブルな深層学習ベースのドメイン適応手法を開発すること。
• ソース分類とターゲット再構成を同時に最適化するマルチタスク学習フレームワークを設計し、ドメイン不変な共有表現を学習すること。
• 理論的分析を通じてアルゴリズムの目的を正当化し、半教師あり学習と関連づけ、再構成にターゲットデータのみを用いることの妥当性を検証すること。

提案手法

• 分類と再構成の両方のタスクに共通のエンコーダを備えた深層畳み込みニューラルネットワークアーキテクチャを提案し、デコーダは別々に保つ。
• ラベル付きソースデータを用いた教師あり学習と、ラベルなしターゲットデータを用いた教師なし学習を交互に最適化する。
• クロスエントロピー損失（ソースラベル予測用）と再構成損失（例：L2 または L1）を組み合わせたジョイント損失関数を用い、ハイパーパrameter λ で重み付けする。
• 再構成機能を活用して、ソース画像をターゲットドメインの外観に類似させるように、ソースとターゲットドメインの分布を暗黙的に一致させる。
• バックプロパゲーションを用いたエンドツーエンド最適化を実施し、スケーラビリティとGPU並列処理を可能にする。
• 理論的分析により、DRCN の目的関数は共変量シフトの仮定の下で半教師あり学習フレームワークに近似することを示し、再構成にターゲットデータのみを用いることの正当性が裏付けられる。

実験結果

リサーチクエスチョン

• RQ1 従来の事前学習・微調整手法と比較して、分類と再構成の共同学習がドメイン適応性能を向上させるか？
• RQ2 共有表現内でのターゲットドメインに類似した特徴の再構成が、ターゲットドメインへの一般化をどの程度向上させるか？
• RQ3 再構成タスクにラベルなしターゲットデータのみを用いることは理論的に妥当か？また、これは半教師あり学習の原則とどのように関連するか？
• RQ4 DRCN はクロスドメインオブジェクト認識ベンチマークにおいて、精度とスケーラビリティの観点から最先端のドメイン適応手法と比較してどうか？
• RQ5 再構成されたソース画像の外観がターゲットドメインに類似しているか？これは、共有表現におけるドメイン整合性の成功を示唆するか？

主な発見

• DRCN は、複数のクロスドメインオブジェクト認識タスクにおいて、従来の最先端のドメイン適応アルゴリズムと比較して最大 8% の高い精度を達成する。
• DRCN モデルによるソース画像の再構成により、ターゲットドメインに類似した外観を持つ出力が得られ、共有表現内での有効なドメイン整合性が示された。
• 標準的な事前学習・微調整戦略よりも DRCN が優れていることから、教師なしドメイン適応において、交互な共同学習がより効果的であることが示された。
• 理論的分析により、DRCN の目的関数は共変量シフトの下で半教師あり学習と整合的であることが確認され、再構成にターゲットデータのみを用いることの正当性が裏付けられた。
• 再構成時にラベルなしソースデータを組み込むと性能が向上せず、場合によっては劣化することも、アブレーションと理論的分析で示された。
• モデルの成功は、ソースラベル構造とターゲットドメイン統計の両方を符号化する複合表現を学習していることに起因する。