[논문 리뷰] A Brief Review of Domain Adaptation

Abolfazl Farahani, Sahar Voghoei외 2명|arXiv (Cornell University)|2020. 10. 07.

Domain Adaptation and Few-Shot Learning인용 수 11

한 줄 요약

이 논문은 머신러닝에서 레이블이 없는 타겟 도메인 데이터를 고려하지 않고 소스 도메인과 타겟 도메인의 분포를 정렬하는 데 중점을 둔 비지도 도메 적응(UDA)에 대한 종합적인 리뷰를 제공한다. 얕은 방법과 깊은 신경망 기반 방법을 조사하며, 적대적 도메인 적응, 도메인 혼동, GAN 기반 접근법을 포함한다. 도메인 불변 표현을 학습하는 것은 분포 이동에 대한 모델 일반화 능력을 크게 향상시킨다.

ABSTRACT

Classical machine learning assumes that the training and test sets come from the same distributions. Therefore, a model learned from the labeled training data is expected to perform well on the test data. However, This assumption may not always hold in real-world applications where the training and the test data fall from different distributions, due to many factors, e.g., collecting the training and test sets from different sources, or having an out-dated training set due to the change of data over time. In this case, there would be a discrepancy across domain distributions, and naively applying the trained model on the new dataset may cause degradation in the performance. Domain adaptation is a sub-field within machine learning that aims to cope with these types of problems by aligning the disparity between domains such that the trained model can be generalized into the domain of interest. This paper focuses on unsupervised domain adaptation, where the labels are only available in the source domain. It addresses the categorization of domain adaptation from different viewpoints. Besides, It presents some successful shallow and deep domain adaptation approaches that aim to deal with domain adaptation problems.

연구 동기 및 목표

• 학습 데이터와 다른 분포에서 온 테스트 데이터로 인해 모델 성능이 떨어지는 문제를 해결하기 위해.
• 레이블이 없는 타겟 도메인으로부터 레이블이 있는 소스 도메인의 지식을 전이할 수 있는 비지도 도메 적응 기법을 조사하기 위해.
• 분포 정렬, 작업 불변성, 표현 학습 등의 다각도에서 도메인 적응을 분류하기 위해.
• 도메인 혼동, MADA, CyCADA와 같은 주요 딥러닝 기반 UDA 방법을 제시하고 분석하기 위해.
• 강건한 전이 학습을 위해 극복해야 할 마진 및 조건부 분포 이동을 최소화하는 것이 중요함을 강조하기 위해.

제안 방법

• 소스 도메인과 타겟 도메인을 구분하려는 도메인 구분자(Domain Discriminator)를 통해 도메인 분류기 손실을 최소화함으로써 도메인 불변 특징을 학습하기 위해 적대적 훈련을 사용한다.
• 최소-최대 최적화를 통해 생성자와 구분자를 동시에 훈련함으로써 도메인 혼동을 극대화하고, 특징 추출기가 도메인 간 구별이 불가능한 표현을 생성하도록 유도한다.
• 하드 레이블 외에도 카테고리 간의 더 풍부한 관계(예: 의미적 유사성)를 전이하기 위해 소프트 레이블 손실을 도입함으로써 일반화 능력을 향상시킨다.
• MADA에서 다중 클래스별 도메인 구분자를 사용하여 조건부 분포를 정렬함으로써, 잘못된 분포가 일치하는 경우의 부정적 전이를 줄인다.
• 사이클 일관성을 강제하여 콘텐츠와 스타일을 유지하면서 도메인을 정렬하기 위해 픽셀 수준과 특징 수준의 적응을 결합한 사이클 일관성 적대적 도메인 적응(CyCADA)을 적용한다.
• GAN을 사용하여 PixelDA와 SimGAN에서 소스 이미지를 타겟 도메인 스타일로 픽셀 수준에서 변환하면서도 의미적 콘텐츠를 유지한다.

실험 결과

연구 질문

• RQ1 타겟 도메인에 레이블이 없을 경우 소스 도메인과 타겟 도메인 간의 도메인 이동을 어떻게 효과적으로 완화할 수 있는가?
• RQ2 특히 조건부 분포 정렬을 포함한 공동 분포 정렬이 깊은 특징의 전이 가능성 향상에 어떤 역할을 하는가?
• RQ3 도메인 혼동과 MADA와 같은 적대적 도메인 적응 방법은 마진 분포 정렬만으로도 부정적 전이를 줄이는 데 얼마나 효과적인가?
• RQ4 픽셀 수준과 특징 수준에서의 GAN 기반 접근법은 의미 콘텐츠를 어떻게 유지하면서도 타겟 도메인 분포에 적응하는가?
• RQ5 양방향 일관성을 강제하는 사이클 일관성 학습은 도메인 간 이미지 변환에서 양방향 일관성을 확보함으로써 도메인 적응을 향상시키는가?

주요 결과

• 도메인 혼동을 사용한 적대적 도메인 적응은 도메인 구분자를 혼동시키는 표현을 학습함으로써 도메인 이동을 효과적으로 줄이며, 일반화 능력 향상에 기여한다.
• MADA는 단일 도메인 구분자 방법보다 더 세밀한 조건부 분포 정렬을 가능하게 하여 부정적 전이를 줄이고 성능을 뛰어나게 한다.
• 소프트 레이블 손실은 하드 레이블 외에도 카테고리 간 의미적 유사성(예: 책장과 파일 캐비닛 간의 유사성)을 전이함으로써 성능 향상을 이룬다.
• CyCADA는 픽셀 수준과 특징 수준의 적응을 사이클 일관성과 함께 조합함으로써 최신 기술 수준의 성능을 달성하며, 콘텐츠를 유지하면서 도메인을 정렬한다.
• PixelDA와 SimGAN과 같은 픽셀 수준의 방법들은 소스 이미지를 타겟 도메인 스타일로 성공적으로 변환하여 시각적 도메인 적응 과제에서 성능 향상을 이룬다.
• 이론적 분석은 도메인 불변 표현이 소스 또는 타겟 도메인을 식별할 수 있는 정보를 포함해서는 안 되며, 이는 적대적 훈련에서 도메인 혼동을 사용하는 것의 타당성을 뒷받침한다.