[論文レビュー] Modified Distribution Alignment for Domain Adaptation with Pre-trained Inception ResNet

Youshan Zhang, Brian D. Davison|arXiv (Cornell University)|Apr 4, 2019

Domain Adaptation and Few-Shot Learning参考文献 49被引用数 13

ひとこと要約

本稿では、事前学習済み Inception ResNet-v2 モデルから抽出した特徴量を用いた、修正された分布整合性（Modified Distribution Alignment）手法を、教師なしドメイン適応のために提案する。最後の全結合層からの高品質な特徴量を活用し、修正された分布整合性手法を適用することで、Office+Caltech-10、Office-31、Office-Home データセットにおいて、それぞれ 4.8%、5.5%、10% の最先端の精度向上を達成した。

ABSTRACT

Deep neural networks have been widely used in computer vision. There are several well trained deep neural networks for the ImageNet classification challenge, which has played a significant role in image recognition. However, little work has explored pre-trained neural networks for image recognition in domain adaption. In this paper, we are the first to extract better-represented features from a pre-trained Inception ResNet model for domain adaptation. We then present a modified distribution alignment method for classification using the extracted features. We test our model using three benchmark datasets (Office+Caltech-10, Office-31, and Office-Home). Extensive experiments demonstrate significant improvements (4.8%, 5.5%, and 10%) in classification accuracy over the state-of-the-art.

研究の動機と目的

• 従来の研究が主に無視してきた、事前学習済み Inception ResNet-v2 特徴量のドメイン適応への応用を検討すること。
• Inception ResNet-v2 の最後の全結合層から特徴量を抽出することで、より包括的な特徴情報が得られることを活かし、特徴表現の質を向上させること。
• ソースドメインとターゲットドメインの特徴分布をよりよく整合させるために、修正された分布整合性手法を開発し、分類精度を向上させること。
• 標準的なドメイン適応ベンチマークにおいて、既存の最先端手法よりも顕著な性能向上を示すこと。

提案手法

• 事前学習済み Inception ResNet-v2 モデルの最後の全結合層から特徴量を抽出し、DeCAF や SURF などの従来の特徴抽出器やより前の層と比較して、より豊かで識別性の高い表現を提供する。
• ソースドメインとターゲットドメインの周辺分布および条件付き分布を、特徴空間における分布の乖離を最小化することで整合させる、修正された分布整合性（MDA）手法を提案する。
• 訓練の安定化と一般化性能の向上を図るため、ハイパーパramータ λ、ρ、p、η を用いた正則化項を導入し、すべての実験で一貫した値を採用する。
• t-SNE 視覚化を用いて特徴クラスタリングの質を比較し、MDAIR がベースライン手法と比較して、より明確で分離性の高いクラス境界を生成することを確認する。
• 同じ特徴抽出器と整合化手法を用いて、3 つのベンチマークデータセット（Office+Caltech-10、Office-31、Office-Home）に本手法を適用する。
• DANN、CDAN、MEDA などの最先端モデルと性能を比較し、同じ IR 特徴量を用いることで、修正された整合化手法の貢献を明確に分離する。

実験結果

リサーチクエスチョン

• RQ1 DeCAF や SURF などの従来の特徴抽出器と比較して、事前学習済み Inception ResNet-v2 モデルから抽出した特徴量は、ドメイン適応性能を顕著に向上させるか？
• RQ2 Inception ResNet-v2 の最後の全結合層は、ドメイン適応タスクにおける特徴抽出に最適な層か？
• RQ3 提案された修正された分布整合性手法は、標準ベンチマークにおいて、既存の分布整合性手法や敵対的ドメイン適応手法を上回るか？
• RQ4 特徴表現の質は、教師なしドメイン適応における最終分類精度にどのように影響を与えるか？

主な発見

• Office+Caltech-10 データセットでは、最良のベースラインより 4.8% の絶対的な精度向上を達成し、平均精度が 96.7% に達した。
• Office-31 データセットでは、最良のベースラインより 5.5% の向上を達成し、平均精度が 89.8% に達した。
• より困難な Office-Home ベンチマークでは、MDAIR モデルが 10% の向上を達成し、平均精度が 72.8% に達した。これは、すべての先行手法を上回る結果であった。
• t-SNE 視覚化により、同じ特徴量を使用しても、MDAIR がベースライン手法よりも明確で分離性の高いクラスクラスタを生成することが確認された。
• Inception ResNet-v2 の最後の全結合層は、多層の表現を集約しているため、より前の層や分類層と比較して優れた特徴を生成する。
• モデルの性能は特徴の質に敏感であり、より高精度な事前学習済みモデルを用いることで、さらなる性能向上が期待できる。