[논문 리뷰] Multi-source Domain Adaptation in the Deep Learning Era: A Systematic Survey

Sicheng Zhao, Bo Li외 3명|arXiv (Cornell University)|2020. 02. 26.

Domain Adaptation and Few-Shot Learning참고 문헌 61인용 수 73

한 줄 요약

이 논문은 심층 학습에서 다중 소스 도메인 적응(MDA)에 대한 포괄적 고찰을 제공하며, MDA를 정의하고, 데이터셋을 검토하고, 잠재 공간 변환과 중간 도메인 생성 방법을 비교하며, 향후 방향을 제시합니다.

ABSTRACT

In many practical applications, it is often difficult and expensive to obtain enough large-scale labeled data to train deep neural networks to their full capability. Therefore, transferring the learned knowledge from a separate, labeled source domain to an unlabeled or sparsely labeled target domain becomes an appealing alternative. However, direct transfer often results in significant performance decay due to domain shift. Domain adaptation (DA) addresses this problem by minimizing the impact of domain shift between the source and target domains. Multi-source domain adaptation (MDA) is a powerful extension in which the labeled data may be collected from multiple sources with different distributions. Due to the success of DA methods and the prevalence of multi-source data, MDA has attracted increasing attention in both academia and industry. In this survey, we define various MDA strategies and summarize available datasets for evaluation. We also compare modern MDA methods in the deep learning era, including latent space transformation and intermediate domain generation. Finally, we discuss future research directions for MDA.

연구 동기 및 목표

• 다중 소스 도메인 적응(MDA) 설정 및 전략을 정의하고 범주화합니다.
• MDA 평가에 사용되는 공개 데이터셋을 요약합니다.
• 잠재 공간 변환과 중간 도메인 생성을 중심으로 심층 MDA 접근법을 비교합니다.
• 이론적 통찰을 논의하고 유망한 향후 연구 방향을 제안합니다.

제안 방법

• 정렬 전략에 따라 MDA를 분류합니다: 잠재 공간 변환과 중간 도메인 생성.
• 잠재 공간 정렬을 위한 discrepancy 기반 및 적대적 방법을 검토합니다.
• 공유형 대 비공유형 특징 추출기 및 소스 간 분류기 정렬을 논의합니다.
• 소스와 타깃 도메인을 연결하기 위한 중간 도메인 생성 접근법(예: GAN 기반)을 설명합니다.
• 여러 소스를 결합하기 위한 가중치 부여 및 소스 선택 전략을 강조합니다.

실험 결과

연구 질문

• RQ1 무엇이 딥러닝에서 다중 소스 도메인 적응을 가장 잘 포착하는 문제 정의와 전략 분류 체계인가?
• RQ2 잠재 공간 변환과 중간 도메인 생성을 비교할 때 기존 MDA 방법들이 표준 데이터셀에서 어떻게 성능을 보이는가?
• RQ3 어떤 이론적이고 실용적인 통찰이 어떤 MDA 전략을 언제 사용할지 이끄는가?
• RQ4 현실 세계의 다중 소스 환경에서 MDA를 개선하기 위해 가장 유망한 향후 방향은 무엇인가?

주요 결과

• 여러 소스를 하나로 직접 결합하고 단일 소스 DA를 적용하는 것은 종종 가장 좋은 단일 소스 접근법보다 성능이 떨어진다.
• MDA 방법은 일반적으로 잠재 공간 변환과 중간 도메인 생성 프레임워크로 구성된다.
• 잠재 공간 정렬에 discrepancy 기반 및 적대적 접근법이 널리 사용되며, Wasserstein 기반 전략은 안정성 이점을 제공한다.
• 가중치 부여와 가장 관련성 높은 소스와 샘플의 선택은 타깃 적응 성능을 향상시킨다.
• 일부 방법은 공유형 또는 비공유형 특징 추출기를 사용하여 매개변수 효율성과 정렬 정밀도 간의 트레이드를 수행한다.
• 픽셀 수준 정렬을 가진 중간 도메인 생성은 의미론적 분할과 같은 미세한 작업의 성능 향상에 도움이 될 수 있다.