[論文レビュー] Exploiting Local Feature Patterns for Unsupervised Domain Adaptation

Jun Wen, Risheng Liu+4 more|arXiv (Cornell University)|Nov 12, 2018

Domain Adaptation and Few-Shot Learning参考文献 30被引用数 5

ひとこと要約

本稿では、ホリスティック特徴の整合性とドメイン不変の局所的特徴パターンを組み合わせることで、細粒度なクロスドメイン特徴マッチングを可能にする、新しい非教師付きドメイン適応手法を提案する。敵対的学習とスパarsity正則化を用いて、ホリスティックおよび局所的分布の整合性を同時に最適化することで、Office-31で最先端の性能を達成し、負の転送を低減するとともに特徴の凝縮性を向上させた。

ABSTRACT

Unsupervised domain adaptation methods aim to alleviate performance degradation caused by domain-shift by learning domain-invariant representations. Existing deep domain adaptation methods focus on holistic feature alignment by matching source and target holistic feature distributions, without considering local features and their multi-mode statistics. We show that the learned local feature patterns are more generic and transferable and a further local feature distribution matching enables fine-grained feature alignment. In this paper, we present a method for learning domain-invariant local feature patterns and jointly aligning holistic and local feature statistics. Comparisons to the state-of-the-art unsupervised domain adaptation methods on two popular benchmark datasets demonstrate the superiority of our approach and its effectiveness on alleviating negative transfer.

研究の動機と目的

• 既存の非教師付きドメイン適応手法がホリスティック特徴の整合性にのみ焦点を当てており、転送性が低く負の転送を引き起こす可能性があるという限界を是正すること。
• ホリスティック表現よりも汎用的かつ転送性の高い局所的特徴パターンを活用し、より優れたドメイン不変表現学習を実現すること。
• ドメイン間でホリスティックおよび局所的特徴分布を同時にマッチングすることで、細粒度な整合性を実現すること。
• グローバルなホリスティック分布マッチングと、局所的パターン固有の分布整合性の二段階戦略により、ドメインの差を低減すること。
• 異なる畳み込み層からの局所的特徴の有効性を実証的に検証し、局所的パターンサイズの変動に対するモデルのロバストネスを評価すること。

提案手法

• 本手法は、一般的な局所的特徴パターンのクラスタを用いて、局所的特徴空間を明確に分離されたセルに分割する。
• ドメイン敵対的損失を用いて、ドメイン間で集約された局所的特徴を一致させることで、ホリスティック分布の一貫性を強制する。
• 学習済みの局所的パターンを基準にした局所的特徴の残差を一致させるための条件付きドメイン敵対的損失を導入し、細粒度な局所的特徴の整合性を実現する。
• スパarsity損失を適用して、モデルが凝縮され、明確に分離された局所的特徴パターンを学習するよう促す。
• 敵対的項とスパarsity項を組み合わせたマルチ目的損失関数を用いて、ホリスティックおよび局所的特徴の整合性を同時に最適化する。
• 本手法はVGG16バックボーンを用いて実装され、特にconv5_3層からの特徴を用いたアブレーションスタディが実施された。

実験結果

リサーチクエスチョン

• RQ1 非教師付きドメイン適応において、局所的特徴パターンはホリスティック表現よりも汎用的かつ転送性が高いか？
• RQ2 ホリスティックおよび局所的特徴分布の共同整合性は、クロスドメイン特徴の整合性を向上させ、ドメイン差を低減するか？
• RQ3 局所的特徴パターンのクラスタリングと条件付き敵対的整合性は、モデルの性能とロバストネスにどのように影響するか？
• RQ4 CNNのどの層が局所的特徴ベースのドメイン適応に最適か？また、特徴の深さは性能にどのように影響するか？
• RQ5 本手法は局所的特徴パターンのサイズにどれほど敏感か？また、パターンの複雑さと整合性効果のトレードオフは何か？

主な発見

• 本手法は、conv5_3層からの特徴を用いた場合、Office-31データセットで平均72.46%の精度を達成し、最先端の手法を上回った。
• ホリスティックおよび局所的特徴の共同整合性を採用した手法（Our H+L）は、k=64の局所的パターンサイズで平均72.59%の精度を達成し、パターンサイズにほとんど感度を示さず、サイズが大きくなるとわずかに性能向上が見られた。
• t-SNE可視化では、DANNや非適応モデルと比較して、本手法がホリスティックおよび局所的特徴空間の両方で、より顕著に整合されたソースおよびターゲット表現を生成していることが確認された。
• 局所的特徴パターン学習を施したモデルは、局所的特徴空間でより凝縮され、明確に分離されたクラスタを示しており、特徴の凝縮性およびドメイン不変性の向上を示している。
• アブレーションスタディの結果、より高い畳み込み層（特にconv5_3）が優れた性能を示し、conv5_1からconv5_3にかけて性能が着実に向上した。
• t-SNEプロットにおけるドメイン固有のクラスタ間の混同が減少し、負の転送が効果的に抑制されていることが示された。