[論文レビュー] Domain Adaptation for Visual Applications: A Comprehensive Survey

Gabriela Csurka|arXiv (Cornell University)|Feb 17, 2017

Domain Adaptation and Few-Shot Learning参考文献 250被引用数 294

ひとこと要約

この論文は視覚タスクのドメイン適応を調査し、浅い方法と深い方法、同質/異質シナリオ、多源DA、画像分類以外の拡張をカバーします。

ABSTRACT

The aim of this paper is to give an overview of domain adaptation and transfer learning with a specific view on visual applications. After a general motivation, we first position domain adaptation in the larger transfer learning problem. Second, we try to address and analyze briefly the state-of-the-art methods for different types of scenarios, first describing the historical shallow methods, addressing both the homogeneous and the heterogeneous domain adaptation methods. Third, we discuss the effect of the success of deep convolutional architectures which led to new type of domain adaptation methods that integrate the adaptation within the deep architecture. Fourth, we overview the methods that go beyond image categorization, such as object detection or image segmentation, video analyses or learning visual attributes. Finally, we conclude the paper with a section where we relate domain adaptation to other machine learning solutions.

研究の動機と目的

• 視覚タスクにおけるドメインシフトが重要な課題である理由と、DAが転移学習にどのように適合するかを動機づける。
• ドメイン適応を転移学習の専門的アプローチとして位置づけ、その範囲と仮定を概説する。
• 同質、異質、マルチソース設定にわたる最先端の浅いDA手法の構造化レビューを提供する。
• 深層学習がDAに与えた影響を要約し、画像分類以外の応用（例：検出、セグメンテーション、ビデオ）について論じる。
• DAを他の機械学習フレームワークと関連付け、未解決の課題と接続を強調する。

提案手法

• 分布P(X)とP(Y|X)を用いてドメインとタスクを定義し、ドメイン適応を形式化する。
• 転移学習を帰納的、転写的、無監視の regime に分類し、Y^s = Y^t を共有タスクとする転写 TL としてDAを位置づける。
• 浅いDA技術を分類する：インスタンス再加重、パラメータ適応、特徴追加、特徴空間整列、さまざまな変換ベースの手法。
• 同質（同じ特徴空間）対異質（異なる表現）DAを区別し、マルチソースDAとランドマーク選択を論じる。
• 分類を超える視覚応用のDAにも対応し、物体検出、セグメンテーション、ビデオ分析を含む；DAをより広いMLアプローチおよび深層DAの発展と関連づける。

実験結果

リサーチクエスチョン

• RQ1 視覚タスクのドメイン適応の主なカテゴリと手法は何か？
• RQ2 浅いDA手法は視覚のドメインシフトに対処する際、深いDA手法とどう比較されるか？
• RQ3 マルチソース設定や画像分類を超えたタスク（検出、セグメンテーション、ビデオなど）へDAをどう拡張できるか？
• RQ4 DA手法は他の転移学習および機械学習アプローチとどのように関連し、どの点で異なるか？

主な発見

• 論文は初期のインスタンス重み付けから高度な特徴変換・部分空間整列まで、幅広いDA手法を整理・統合している。
• 同質と異質のDAを区別し、MMD、部分空間整列、ジオデシックフロー核などの戦略を強調している。
• マルチソースDAアプローチやランドマークベース/局所変換手法を網羅し、ドメイン間の性能向上を図っている。
• 深層学習がエンドツーエンドのDAアプローチを導入し、検出・セグメンテーション・ビデオタスクへの適用と統合を論じている。
• この調査はDAをより広い転移学習フレームワークと結びつけ、視覚領域における実践的な考慮事項と未解決の課題を明らかにしている。