[論文レビュー] Unsupervised Domain Adaptation with Residual Transfer Networks

Mingsheng Long, Zhu Han+2 more|arXiv (Cornell University)|Feb 14, 2016

Domain Adaptation and Few-Shot Learning参考文献 31被引用数 1,008

ひとこと要約

本論文は、Residual Transfer Networks (RTN) を提案し、ソースとターゲットの分類器の差を残差関数としてモデル化し、テンソル MMD を用いて多層特徴を整合させることで、教師なしドメイン適応のための転送可能な特徴と適応的分類器を共同で学習させ、標準ベンチマークで最先端の結果を達成する。

ABSTRACT

The recent success of deep neural networks relies on massive amounts of labeled data. For a target task where labeled data is unavailable, domain adaptation can transfer a learner from a different source domain. In this paper, we propose a new approach to domain adaptation in deep networks that can jointly learn adaptive classifiers and transferable features from labeled data in the source domain and unlabeled data in the target domain. We relax a shared-classifier assumption made by previous methods and assume that the source classifier and target classifier differ by a residual function. We enable classifier adaptation by plugging several layers into deep network to explicitly learn the residual function with reference to the target classifier. We fuse features of multiple layers with tensor product and embed them into reproducing kernel Hilbert spaces to match distributions for feature adaptation. The adaptation can be achieved in most feed-forward models by extending them with new residual layers and loss functions, which can be trained efficiently via back-propagation. Empirical evidence shows that the new approach outperforms state of the art methods on standard domain adaptation benchmarks.

研究の動機と目的

• ターゲットラベルが利用できず、ドメイン間で分布が異なる場合のドメイン適応を動機づける。
• 共有分類器の仮定を緩和し、分類器の差を残差関数としてモデル化する。
• 特徴適応と分類器適応を同時に学習するエンドツーエンドの深層アーキテクチャを開発する。
• テンソル積に基づく多層特徴融合と RKHS 埋め込みを活用して分布を揃える。
• 標準的なドメイン適応ベンチマークにおいて、最新手法に対する経験的な向上を示す。

提案手法

• CNN を残差転送ブロックで拡張し、残差関数 Δf(x) を介してソースとターゲットの分類器を橋渡しする。
• テンソル積による複数層特徴の融合で特徴適応を行い、ドメイン間のテンソル MMD を最小化する。
• 融合特徴を再生核ヒルベルト空間に埋め込み、分布整合のためにガウスカーネルを適用する。
• ターゲットデータ上で低密度分離を促進するエントロピー最小化項を導入して、ターゲット分類器を洗練させる。
• ソース監視、テンソル MMD、およびエントロピーペナルティを λ および γ を用いたトレードオフで組み合わせて、RTN をエンドツーエンドで誤差逆伝播法により訓練する。

実験結果

リサーチクエスチョン

• RQ1 残差関数は教師なしドメイン適応においてソースとターゲットの分類器を効果的に橋渡しできるのか？
• RQ2 多層特徴融合とテンソル MMD は層ごとの MMD ペナルティより優れたドメイン整合を提供するのか？
• RQ3 エントロピー最小化を取り入れることでターゲット分類器のターゲット分布への整合性が向上するのか？
• RQ4 共同学習された転送可能な特徴と適応分類器は、標準ベンチマーク上の確立されたドメイン適応手法に対してどのように性能を発揮するか？
• RQ5 大きなドメインシフトを伴う難しい転送タスクにおける残差分類器適応の影響は何か？

主な発見

• RTN は標準的なドメイン適応ベンチマークで最先端手法を上回り、特に A→W や C→W のような難しい転送タスクで優れている。
• 多層特徴適応のための単一のテンソル MMD ペナルティは、複数層固有のペナルティよりモデル選択と性能を向上させる。
• エントロピー最小化はターゲットデータ上の低密度分離を促進することで性能を大幅に向上させる。
• エントロピーと残差接続の両方を用いた残差分類器適応は、RTN のバリアントの中で最良の総合結果をもたらす。
• RTN は特徴と分類器の両方をエンドツーエンドで適応させることが、特徴適応のみより安全で効果的なドメイン適応をもたらすことを示している。