[论文解读] Domain Adaptation for Visual Applications: A Comprehensive Survey

Gabriela Csurka|arXiv (Cornell University)|Feb 17, 2017

Domain Adaptation and Few-Shot Learning参考文献 250被引用 294

一句话总结

本论文综述了视觉任务的领域自适应，涵盖浅层和深层方法、同质/异质场景、多源DA，以及超越图像分类的扩展。

ABSTRACT

The aim of this paper is to give an overview of domain adaptation and transfer learning with a specific view on visual applications. After a general motivation, we first position domain adaptation in the larger transfer learning problem. Second, we try to address and analyze briefly the state-of-the-art methods for different types of scenarios, first describing the historical shallow methods, addressing both the homogeneous and the heterogeneous domain adaptation methods. Third, we discuss the effect of the success of deep convolutional architectures which led to new type of domain adaptation methods that integrate the adaptation within the deep architecture. Fourth, we overview the methods that go beyond image categorization, such as object detection or image segmentation, video analyses or learning visual attributes. Finally, we conclude the paper with a section where we relate domain adaptation to other machine learning solutions.

研究动机与目标

• 说明为什么领域移位在视觉任务中是一个关键问题，以及DA如何融入迁移学习。
• 将领域自适应定位为一种专门的迁移学习方法，并概述其范围与假设。
• 对同质、异质和多源设置下的最先进浅层DA方法进行结构化综述。
• 总结深度学习如何影响了DA，并讨论超越图像分类的应用（例如检测、分割、视频）。
• 将DA与其他机器学习框架联系起来，并突出尚待解决的挑战与关系。

提出的方法

• 用分布P(X)和P(Y|X)来定义域和任务，以形式化领域自适应。
• 将迁移学习分为归纳、传导和无监督三种情形，将DA定位为具有共享任务(Y^s = Y^t)的传导迁移学习。
• 编目浅层DA技术：实例重加权、参数自适应、特征扩增、特征空间对齐，以及各种基于变换的方法。
• 区分同质（相同特征空间）与异质（不同表示）的DA；讨论多源DA和 landmark 选择。
• 研究超越分类的视觉应用领域的DA，包括目标检测、分割和视频分析；将DA与更广泛的机器学习方法以及深度DA的发展联系起来。

实验结果

研究问题

• RQ1 在视觉任务中，领域自适应的主要类别和技术有哪些？
• RQ2 浅层DA方法在应对视觉领域移位方面与深层DA方法有何比较？
• RQ3 DA如何扩展到多源设置以及超越图像分类的任务（如检测、分割、视频）？
• RQ4 DA方法与其他迁移学习及机器学习方法有何关系与区别？

主要发现

• 本文组织并综合了广泛的DA方法，从早期的实例加权到复杂的特征变换和子空间对齐。
• 它区分了同质与异质DA，并强调了如MMD、子空间对齐和测地流核等策略。
• 它涵盖多源DA方法以及基于地标的或局部变换方法以提升跨域性能。
• 它讨论了深度学习如何引入端到端的DA方法，以及自适应如何与检测、分割和视频任务结合。
• 该综述将DA与更广泛的迁移学习框架联系起来，并指出视觉领域的实际考量与尚待解决的挑战。