[論文レビュー] Domain Adaptations for Computer Vision Applications

Oscar Beijbom|arXiv (Cornell University)|Nov 20, 2012

Domain Adaptation and Few-Shot Learning参考文献 28被引用数 28

ひとこと要約

この論文は、ラベル付きデータがターゲットドメインに不足する状況において、分類性能を向上させるためにソースドメインとターゲットドメイン間の特徴を整合させる手法に焦点を当てた、コンピュータビジョン分野におけるドメイン適応手法のサーベイである。CCA、GMA、およびそれらの変種を統合したフレームワークを提示し、MultiPIE、Pascal VOC 2007、Officeデータセットなどのベンチマークで最先端の性能を示している。

ABSTRACT

A basic assumption of statistical learning theory is that train and test data are drawn from the same underlying distribution. Unfortunately, this assumption doesn't hold in many applications. Instead, ample labeled data might exist in a particular `source' domain while inference is needed in another, `target' domain. Domain adaptation methods leverage labeled data from both domains to improve classification on unseen data in the target domain. In this work we survey domain transfer learning methods for various application domains with focus on recent work in Computer Vision.

研究の動機と目的

• ラベル付きデータがソースドメインにのみ存在するが、ターゲットドメインとの分布の違いにより直接適用できないドメインシフトの課題に対処すること。
• 特にラベル付きソースデータとラベルなしターゲットデータを活用するコンピュータビジョン応用に特化した最近のドメイン適応手法をサーベイすること。
• 教師あり信号と教師なし信号を統合したマルチビュー特徴学習の統一フレームワークを提供し、ドメイン間での一般化を向上させること。
• 標準ベンチマーク上で提案手法を評価し、ドメイン間視覚認識タスクにおける有効性を示すこと。
• ドメイン適応の文脈において、トランスファーラーニング、半教師あり学習、クロスモーダルラーニングといった関連分野のギャップを埋めること。

提案手法

• 特徴を射影した後の空間における相関を最大化することで、ソースドメインとターゲットドメイン間の共通低次元表現を学ぶために、線形判別分析（CCA）を用いる。
• クラス平均、クラス内およびクラス間の散乱行列を含む共同目的関数を最適化することで、PCA、LDA、CCAを統合する一般化マルチビュー解析（GMA）フレームワークを採用する。
• 共有射影空間を用いてドメイン間でクラス平均を整合させる共同最適化により、LDAとCCAを統合した一般化マルチビューLDA（GMLDA）を導入する。
• 非線形な関係をモデル化できるように、特徴間の非線形な整合を可能にするために、カーネル化されたCCA（KCCA）を適用する。
• GMAの一般化固有値問題を解くために制約付き最適化定式化を用い、ドメイン間でバランスの取れたスケーリングを保証する。
• GMAフレームワークと比較するための2段階ベースラインとして、LDAの後にCCAを適用するか、逆にCCAの後にLDAを適用する手法を採用する。

実験結果

リサーチクエスチョン

• RQ1 ターゲットドメインにおけるラベル付きデータが限られる状況下で、ドメイン適応手法はどのようにしてソースドメインとターゲットドメイン間の特徴を効果的に整合させることができるか？
• RQ2 CCA、LDA、またはそれらの逐次的組み合わせと比較して、GMAのような統一フレームワークは、ドメイン間視覚認識タスクでどの程度優れた性能を示すか？
• RQ3 クラス平均の整合と共有射影学習を組み込むことで、ドメイン適応における未学習クラスへの一般化性能にどのような影響を与えるか？
• RQ4 MultiPIE、Pascal VOC 2007、Officeデータセットのような多様なベンチマークにおいて、ドメイン適応手法の性能はどの程度か？
• RQ5 CCAとGMAのカーネル化拡張は、視覚認識タスクにおける非線形ドメインシフトに対して性能を向上させることができるか？

主な発見

• 提案されたGMAフレームワーク、特にGMLDAは、MultiPIEおよびPascal VOC 2007データセットでLDA + CCAやCCA + LDAといったベースライン手法を上回る性能を示した。
• WikiTextデータセットでは、Rasiwasiaら（2010）のドメイン特化手法と同等の性能を達成し、優れた一般化能力を示した。
• CCAおよびそのカーネル化変種（KCCA）は、ソースとターゲットのデータが類似した次元性と十分なサンプルサイズを持つ場合、ドメイン間の特徴整合に効果的である。
• GMLDAにおけるクラス平均の整合化は、識別的構造を保持することで、ドメイン間認識タスクの性能を顕著に向上させた。
• 一般化マルチビューフレームワークは、教師ありと教師なしの複数の学習目的を1つの最適化に統合でき、強固なドメイン適応を可能にした。
• Officeデータセットにおける実験結果から、Amazon、DSLR、webcam画像といった異なるドメイン間でも良好な一般化が確認され、優れた転送性を示した。