[論文レビュー] Recent Advances in Transfer Learning for Cross-Dataset Visual Recognition: A Problem-Oriented Perspective

Jing Zhang, Wanqing Li+2 more|arXiv (Cornell University)|May 11, 2017

Domain Adaptation and Few-Shot Learning参考文献 281被引用数 20

ひとこと要約

本稿は、データおよびラベル属性に基づき、17のクロスデータセット視覚認識課題の問題指向の分類法を提示する。各課題について、浅層的および深層的トランスファーラーニング手法を体系的にレビューする。8つの未十分に研究されていない課題を同定し、実務家が現実のタスクと適切なトランスファーラーニングソリューションをマッピングするための構造的リファレンスを提供するとともに、データセットの適性を評価し、トランスファーラーニング分野における今後の研究方向性を示す。

ABSTRACT

This paper takes a problem-oriented perspective and presents a comprehensive review of transfer learning methods, both shallow and deep, for cross-dataset visual recognition. Specifically, it categorises the cross-dataset recognition into seventeen problems based on a set of carefully chosen data and label attributes. Such a problem-oriented taxonomy has allowed us to examine how different transfer learning approaches tackle each problem and how well each problem has been researched to date. The comprehensive problem-oriented review of the advances in transfer learning with respect to the problem has not only revealed the challenges in transfer learning for visual recognition, but also the problems (e.g. eight of the seventeen problems) that have been scarcely studied. This survey not only presents an up-to-date technical review for researchers, but also a systematic approach and a reference for a machine learning practitioner to categorise a real problem and to look up for a possible solution accordingly.

研究の動機と目的

• 既存のサーベイ論文が手法中心であるのに対し、問題中心のアプローチをとることで、クロスデータセット視覚認識のための体系的で問題指向の分類法を提示すること。
• データおよびラベル属性に基づき、クロスデータセット視覚認識を17の明確に区別できる問題に分類し、現実の応用に適した手法選定を可能にすること。
• 広く使われているデータセット（例：ImageNet、COCO、WebVision）が各17の問題に対してどれほど適しているかを評価し、現在のベンチマーク手法における制限を特定すること。
• 特に17の問題のうち8つがほとんど研究が進んでいないこと（未研究の課題）を明らかにし、今後の研究を導くこと。
• 研究者および実務家が、実務に即した即戦力のフレームワークを提供し、現実の課題を適切なトランスファーラーニング技術にマッピングできるようにすること。

提案手法

• 本稿は、ドメインシフト、ラベル空間の非均一性、データモダリティの違い（例：ドメインシフト、ラベル空間の非均一性、データモダリティの差異）などのデータおよびラベル属性のセットを定義し、クロスデータセット視覚認識を17の明確な問題に体系的に分類する。
• 17の問題を4つのシナリオに整理する：同型の特徴空間およびラベル空間、非均一な特徴空間、非均一なラベル空間、非均一な特徴およびラベル空間。
• 各問題に対して、既存の浅層的および深層的トランスファーラーニング手法（ドメイン適応、ドメイン一般化、ゼロショット学習技術など）をレビューおよび分析する。
• 主なベンチマークデータセット（例：ImageNet、COCO、WebVision）が、各17の問題におけるアルゴリズムの評価にどれほど適しているかを評価し、データスケール、モダリティ、ラベル構造の不一致を強調する。
• 本手法には、先行研究からの形式的定義およびタスク指向の分類に基づき、異なるアプローチが各問題をどのように扱っているかを比較分析する要素が含まれる。
• このフレームワークにより、実務家は現実の課題を特定の問題クラスにマッピングし、文献からの候補ソリューションを特定できる。

実験結果

リサーチクエスチョン

• RQ1 クロスデータセット視覚認識における17の問題クラスごとに、どのトランスファーラーニング手法が最も効果的か？
• RQ2 17の特定された問題はそれぞれどの程度研究が進んでおり、どの問題が未研究のままであるか？
• RQ3 現在のベンチマークデータセットは、クロスデータセット視覚認識の全範囲の問題をどれほど評価に活用できるか？
• RQ4 実務家は、この分類法を用いて、現実の視覚認識タスクを適切なトランスファーラーニングソリューションに体系的にマッピングできるか？
• RQ5 視覚認識のためのトランスファーラーニングにおける主な課題および今後の研究方向性は何か、特に未開拓の問題に対して。

主な発見

• クロスデータセット視覚認識における17の問題のうち8つは、ほとんど研究が進んでいないことが判明し、現在の文献における大きなギャップを示している。
• 本稿は、既存のサーベイ論文が、非均一なラベル空間、クロスモダリティ認識、弱ラベル付きデータを含む課題をしばしば無視していることを明らかにしたが、これらは実用的 relevance が非常に高い。
• ImageNet や COCO といった広く使われているデータセットは、オンラインまたは継続的トランスファーラーニングの評価に不適切であることが判明した。なぜなら、それらは動的または順次的データ設定を備えていないからである。
• クロスモダリティトランスファーラーニング（例：RGBから深度画像への移行）は、データ収集およびラベル付けコストを削減するという実用的価値が高いため、未だに未発達な分野のままである。
• 問題指向の分類法により、実務家は現実のタスクを適切なトランスファーラーニング手法に効率的にマッピングでき、ソリューション選定の質を向上させ、試行錯誤の実験を減らすことができる。
• 本サーベイは、特にオンラインおよび継続的学習設定において、多様なトランスファーラーニング問題を評価できる大規模かつ包括的なデータセットが、現在のところほとんど存在しないことを特定した。この欠如は、アルゴリズムの評価と発展を制限している。