[논문 리뷰] Domain Adaptation for Visual Applications: A Comprehensive Survey

Gabriela Csurka|arXiv (Cornell University)|2017. 02. 17.

Domain Adaptation and Few-Shot Learning참고 문헌 250인용 수 294

한 줄 요약

이 논문은 시각 과제에 대한 도메인 적응(DA)을 다루며 얕은 방법과 심층 방법, 동형/이형 시나리오, 다중 소스 DA, 이미지 분류를 넘어선 확장을 포함한다.

ABSTRACT

The aim of this paper is to give an overview of domain adaptation and transfer learning with a specific view on visual applications. After a general motivation, we first position domain adaptation in the larger transfer learning problem. Second, we try to address and analyze briefly the state-of-the-art methods for different types of scenarios, first describing the historical shallow methods, addressing both the homogeneous and the heterogeneous domain adaptation methods. Third, we discuss the effect of the success of deep convolutional architectures which led to new type of domain adaptation methods that integrate the adaptation within the deep architecture. Fourth, we overview the methods that go beyond image categorization, such as object detection or image segmentation, video analyses or learning visual attributes. Finally, we conclude the paper with a section where we relate domain adaptation to other machine learning solutions.

연구 동기 및 목표

• 시각 과제에서 도메인 시프트가 왜 중요한 문제인지 동기 부여하고 DA가 전이 학습 내에서 어떻게 적합한지 설명.
• 도메인 적응을 특수한 전이 학습 접근으로 위치시키고 그 범위와 가정을 개략한다.
• 동형, 이형, 다중 소스 설정에서 최첨단 얕은 DA 방법에 대한 구조화된 리뷰를 제공한다.
• 심층 학습이 DA에 어떤 영향을 주었는지 요약하고 이미지 분류를 넘어서는 응용(예: 객체 탐지, 분할, 비디오)을 논의한다.
• DA를 다른 머신러닝 프레임워크와 연결하고 남은 과제와 연계를 강조한다.

제안 방법

• 도메인 적응을 형식화하기 위해 분포 P(X)와 P(Y|X)로 도메인과 작업을 정의한다.
• 전이 학습을 유도적(inductive), 전이적(transductive), 비지도성으로 분류하고 DA를 공유 작업(Y^s = Y^t)을 가지는 전이적 TL로 위치시킨다.
• 얕은 DA 기법을 분류: 인스턴스 재가중, 매개변수 적응, 특징 보강, 특징 공간 정렬, 다양한 변환 기반 방법.
• 동형(동일한 특징 공간) 대 이형(다른 표현) DA를 구분; 다중 소스 DA 및 랜드마크 선택에 대해 논의한다.
• 분류를 넘어 객체 탐지, 분할, 비디오 분석 등 시각 응용에서의 DA를 다루고; DA를 더넓은 ML 접근법 및 심층 DA 발전과 연계한다.

실험 결과

연구 질문

• RQ1 시각 과제를 위한 도메인 적응의 주요 범주와 기법은 무엇인가?
• RQ2 시각적 도메인 시프트를 다루는 얕은 DA 방법과 심층 DA 방법을 어떻게 비교하는가?
• RQ3 다중 소스 설정 및 이미지 분류를 넘어서는 작업(예: 탐지, 분할, 비디오)으로 DA를 어떻게 확장할 수 있는가?
• RQ4 DA 방법이 다른 전이 학습 및 머신러닝 접근법과 어떻게 연관되고 차이가 있는가?

주요 결과

• 이 논문은 초기 인스턴스 가중치 부터 정교한 특징 변환 및 부분공간 정렬에 이르기까지 광범위한 DA 방법을 정리하고 종합한다.
• 동형 DA와 이형 DA를 구분하고 MMD, 부분공간 정렬, 지오메트릭 흐름 커널과 같은 전략을 강조한다.
• 다중 소스 DA 접근법과 랜드마크 기반 또는 국소 변환 방법을 다루어 교차 도메인 성능을 개선한다.
• 심층 학습이 엔드투엔드 DA 접근법을 도입한 방식과 적응이 탐지, 분할 및 비디오 작업과 어떻게 통합되는지 논의한다.
• 이 조사는 DA를 보다 넓은 전이 학습 프레임워크와 연결하고 시각 도메인에서의 실용적 고려사항과 남은 과제를 식별한다.