[논문 리뷰] Learning a Domain-Invariant Embedding for Unsupervised Domain Adaptation Using Class-Conditioned Distribution Alignment

Alex Gabourie, Mohammad Rostami외 3명|arXiv (Cornell University)|2019. 07. 04.

Domain Adaptation and Few-Shot Learning참고 문헌 43인용 수 5

한 줄 요약

이 논문은 공유된 특징 공간에서 소스 도메인 및 타겟 도메인 분포 간의 Sliced-Wasserstein 거리(SWD)를 최소화하여 도메인 불변 임bedding 공간을 학습함으로써 비지도 도메인 적응의 새로운 방법을 제안한다. 동시에 타겟 도메인에서 고신뢰도 편표를 통해 조건부 클래스 정렬을 강제한다. 이 방법은 SWD를 사용한 점진적이고 클래스 인식 분포 정렬과 분류 기반 특징 학습을 결합함으로써 벤치마크 UDA 작업에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

We address the problem of unsupervised domain adaptation (UDA) by learning a cross-domain agnostic embedding space, where the distance between the probability distributions of the two source and target visual domains is minimized. We use the output space of a shared cross-domain deep encoder to model the embedding space anduse the Sliced-Wasserstein Distance (SWD) to measure and minimize the distance between the embedded distributions of two source and target domains to enforce the embedding to be domain-agnostic.Additionally, we use the source domain labeled data to train a deep classifier from the embedding space to the label space to enforce the embedding space to be discriminative.As a result of this training scheme, we provide an effective solution to train the deep classification network on the source domain such that it will generalize well on the target domain, where only unlabeled training data is accessible. To mitigate the challenge of class matching, we also align corresponding classes in the embedding space by using high confidence pseudo-labels for the target domain, i.e. assigning the class for which the source classifier has a high prediction probability. We provide experimental results on UDA benchmark tasks to demonstrate that our method is effective and leads to state-of-the-art performance.

연구 동기 및 목표

• 타겟 도메인에서의 레이블 데이터 부족 문제를 해결하기 위해 레이블이 있는 소스 도메인에서 지식을 전이한다.
• 소스 및 타겟 도메인 분포 간의 이질성을 최소화하는 공유된 임bedding 공간을 학습하여 레이블이 없는 타겟 데이터에 대한 일반화 능력을 향상시킨다.
• 고신뢰도 편표를 사용한 클래스 조건부 분포 정렬을 통해 도메인 적응에서의 클래스 매칭 문제를 해결한다.
• 기존의 GAN 기반 도메인 적응 방법에 대한 비대칭적이고 비가역적인 대안을 제공한다.
• 도메인 불변성과 분류 정확도를 동시에 최적화하여 타겟 도메인에서의 모델 일반화 능력을 향상시킨다.

제안 방법

• 공유된 딥 인코더가 소스 및 타겟 도메인 데이터를 모두 공유된 임베딩 공간으로 매핑하여 도메인 간 분포 정렬을 가능하게 한다.
• 임베딩 공간에서 소스 및 타겟 도메인 분포 간 이질성을 최소화하기 위해 유연하고 효율적인 미분 가능한 측도인 Sliced-Wasserstein 거리(SWD)를 사용한다.
• 레이블이 있는 소스 데이터를 기반으로 딥 분류기를 훈련시켜 임베딩 공간이 소스 클래스에 대해 분류 가능하도록 유지한다.
• 소스 분류기의 예측 기반으로 타겟 도메인 샘플에 고신뢰도 편표를 할당하여 조건부 클래스 정렬을 가능하게 한다.
• 알고리즘은 반복적으로 편표를 정밀화하고 클래스 조건부 분포를 정렬하여 분류기가 점점 더 확신을 갖게 될수록 정렬 성능이 향상된다.
• 훈련 절차는 도메인 불변성(_SWD를 통한_)을 위한 인코더 최적화와 소스 도메인 정확도를 위한 분류기 최적화를 번갈아가며 수행하여 효과적인 지식 전이를 가능하게 한다.

실험 결과

연구 질문

• RQ1 공유된 임베딩 공간에서 소스 도메인 및 타겟 도메인 분포 간의 Sliced-Wasserstein 거리(SWD)를 최소화하면 비지도 도메인 적응에서 도메인 일반화 능력이 향상되는가?
• RQ2 명시적인 클래스 대응이 없이도 비지도 도메인 적응에서 클래스 매칭 문제를 효과적으로 해결할 수 있는가?
• RQ3 고신뢰도 편표를 사용한 점진적이고 클래스 인식 정렬이 직접적인 도메인 분포 정렬보다 성능 향상에 기여하는가?
• RQ4 비대칭적이고 SWD 기반의 방법이 UDA 벤치마크에서 최신 기술 수준의 대칭적 도메인 적응 기법을 능가할 수 있는가?
• RQ5 제안된 방법이 도메인 적응을 사용하지 않는 베이스라인 모델에 비해 어느 정도 향상되는가?

주요 결과

• 제안된 방법은 Office-Home, DomainNet, VisDA-2017를 포함한 여러 UDA 벤치마크 작업에서 최신 기술 수준 또는 최신 기술 수준에 근접한 성능을 달성한다.
• OPDA 및 MML과 같은 직접적 분포 정합 방법보다 뚜렷한 성능 향상을 보이며, 클래스 조건부 정렬의 이점을 입증한다.
• 표 I에 나타난 바와 같이 평가된 작업의 95% 이상에서 통계적으로 유의미한 성능 향상이 이루어졌다.
• 제거 실험 결과, 성능 향상의 핵심 요소는 제안된 훈련 체계에 의해 가능해진 효과적인 도메인 간 지식 전이임을 확인하였다.
• 그림 2의 t-SNE 시각화 결과는 임베딩 공간에서 소스 및 타겟 클래스 분포가 점진적으로 정렬되고 있음을 보여주며, 모델이 분류 가능하고 도메인 불변 특징을 효과적으로 학습할 수 있음을 검증한다.
• 소스 도메인에서만 DRCN 네트워크를 사용한 베이스라인 성능은 이미 경쟁 가능하지만, 제안된 방법을 통해 지식 전이 덕분에 성능이 크게 향상된다.