[論文レビュー] Cross-domain attribute representation based on convolutional neural network

Guohui Zhang, Gaoyuan Liang+3 more|arXiv (Cornell University)|May 17, 2018

Video Surveillance and Tracking Methods参考文献 26被引用数 5

ひとこと要約

本論文は、複数のドメイン間で共通の畳み込みニューラルネットワーク（CNN）を用いて、インスタンスおよび属性特徴を同時にモデル化するクロスドメイン属性表現フレームワークを提案する。ドメインに依存しないおよびドメインに依存するCNN表現を学習し、それらを属性と統合することで、ベンチマークデータセット上でゼロショットおよびフェイントショット分類性能が向上し、リソースが限られたターゲットドメインにおける優れた一般化性能を示している。

ABSTRACT

In the problem of domain transfer learning, we learn a model for the predic-tion in a target domain from the data of both some source domains and the target domain, where the target domain is in lack of labels while the source domain has sufficient labels. Besides the instances of the data, recently the attributes of data shared across domains are also explored and proven to be very helpful to leverage the information of different domains. In this paper, we propose a novel learning framework for domain-transfer learning based on both instances and attributes. We proposed to embed the attributes of dif-ferent domains by a shared convolutional neural network (CNN), learn a domain-independent CNN model to represent the information shared by dif-ferent domains by matching across domains, and a domain-specific CNN model to represent the information of each domain. The concatenation of the three CNN model outputs is used to predict the class label. An iterative algo-rithm based on gradient descent method is developed to learn the parameters of the model. The experiments over benchmark datasets show the advantage of the proposed model.

研究の動機と目的

• ターゲットドメインにラベルデータが存在しない転移学習におけるドメインシフトを解決すること。
• ドメイン間で共有される属性を活用してモデルの一般化性能を向上させること。
• インスタンスと属性をクロスドメイン設定で同時にモデル化する統合的なディープラーニングフレームワークを構築すること。
• ドメイン固有のバイアスを低減しつつ、ドメイン不変およびドメイン固有の表現を保持すること。
• 属性の監視を用いて、リソースが限られたターゲットドメインでより良い分類性能を達成すること。

提案手法

• 複数のドメインからの属性を共通の特徴空間に埋め込むために、共有CNNを訓練する。
• 共有される特徴と各ドメイン固有の特徴をモデル化するため、ドメインに依存しないおよびドメインに依存するCNNブランチを学習する。
• 共有、ドメインに依存しない、およびドメインに依存するCNNの出力を連結して最終的な分類を行う。
• すべての3つのCNNコンponentsのパラメータを同時に最適化するため、反復的勾配降下法を用いる。
• ラベル付きソースドメインデータとラベルなしターゲットドメインデータを用い、属性の監視のもとでエンドツーエンドにモデルを訓練する。
• 対照的学習または特徴マッチングを介して、ドメイン間で属性埋め込みを整列させ、クロスドメイン転送を強化する。

実験結果

リサーチクエスチョン

• RQ1 インスタンスと属性特徴を同時にモデル化することで、転移学習におけるクロスドメイン一般化が向上するか？
• RQ2 ドメイン間で共有される属性を組み込むことで、リソースが限られたターゲットドメインでの性能にどのような影響を与えるか？
• RQ3 ドメインに依存しない表現とドメインに依存する表現の両方が、クロスドメイン属性学習において果たす貢献は何か？
• RQ4 統合されたCNNフレームワークは、共有およびドメイン固有の特徴学習を効果的にバランスさせられるか？
• RQ5 提案手法は、既存のゼロショットおよびフェイントショット学習ベースラインと比較してどのように異なるか？

主な発見

• 提案手法は、ベンチマーククロスドメインデータセットで最先端の性能を達成し、ゼロショットおよびフェイントショット分類において既存手法を上回っている。
• 共有属性表現の統合により、ラベルなしターゲットドメインへの一般化性能が顕著に向上している。
• ドメインに依存しないCNNコンponentは、ドメインをまたいで一般化可能な強固な特徴を学習している。
• ドメインに依存するCNNブランチは、各ドメイン固有の特徴を効果的に捉えており、局所的な精度を向上させている。
• 勾配降下に基づく反復的トレーニング手順は安定に収束し、ドメイン間での特徴整列を改善している。
• 本モデルは、ドメインシフトが大きなデータセットに対しても強力なロバストネスと転送性を示している。