[논문 리뷰] Adversarial-Learned Loss for Domain Adaptation

Minghao Chen, Shuai Zhao외 2명|arXiv (Cornell University)|2020. 01. 04.

Domain Adaptation and Few-Shot Learning참고 문헌 38인용 수 7

한 줄 요약

이 논문은 도메인 적응을 위한 새로운 방법인 Adversarial-Learned Loss for Domain Adaptation (ALDA)를 제안한다. ALDA는 도메인 적대적 학습과 자기학습을 결합하여, 노이즈가 있는 타겟 도메인 샘플의 가짜 레이블을 보정하기 위해 적대적으로 학습된 혼동 행렬을 사용한다. ALDA는 특징 정렬과 구분 능력을 향상시켜 네 가지 표준 비지도 도메인 적응 벤치마크에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Recently, remarkable progress has been made in learning transferable representation across domains. Previous works in domain adaptation are majorly based on two techniques: domain-adversarial learning and self-training. However, domain-adversarial learning only aligns feature distributions between domains but does not consider whether the target features are discriminative. On the other hand, self-training utilizes the model predictions to enhance the discrimination of target features, but it is unable to explicitly align domain distributions. In order to combine the strengths of these two methods, we propose a novel method called Adversarial-Learned Loss for Domain Adaptation (ALDA). We first analyze the pseudo-label method, a typical self-training method. Nevertheless, there is a gap between pseudo-labels and the ground truth, which can cause incorrect training. Thus we introduce the confusion matrix, which is learned through an adversarial manner in ALDA, to reduce the gap and align the feature distributions. Finally, a new loss function is auto-constructed from the learned confusion matrix, which serves as the loss for unlabeled target samples. Our ALDA outperforms state-of-the-art approaches in four standard domain adaptation datasets. Our code is available at https://github.com/ZJULearning/ALDA.

연구 동기 및 목표

• 도메인 적대적 학습이 타겟 특징의 구분 능력을 보장하지 못하는 한계를 해결한다.
• 비지도 도메인 적응에서 자기학습 방법이 사용하는 가짜 레이블의 불안정성과 노이즈 문제를 극복한다.
• 혼동 행렬을 통해 도메인 정렬과 특징 구분 간 격차를 해소하여, 둘 다를 동시에 최적화한다.
• 이론적으로 탄탄한, 종단 간 훈련이 가능한 방법을 개발하여 타겟 도메인에서의 도메인 정렬 및 분류기 일반화 능력을 향상시킨다.

제안 방법

• 자기학습에서 가짜 레이블과 진짜 레이블 간의 차이를 모델링하기 위해 혼동 행렬을 도입한다.
• 보정된 레이블을 사용하여 소스 도메인과 타겟 도메인을 구분하는 디스크림ิน레이터를 통해 혼동 행렬을 적대적으로 학습한다.
• 학습된 혼동 행렬을 사용하여 노이즈가 있는 가짜 레이블을 보정된 타겟 레이블로 변환하여 훈련에 사용한다.
• 보정된 레이블을 사용하여 노이즈 보정 손실 함수를 구성하며, 이는 도메인 디스크림ิน레이터와 함께 최적화된다.
• 균일한 노이즈가 있는 가짜 레이블에 대해 강건성을 높이기 위해 보정된 타겟 손실에 unhinged 손실 함수를 적용한다.
• 특징 인코더와 분류기를 종단 간 훈련하며, 도메인 적대적 손실과 보정된 타겟 분류 손실을 병합한 목적 함수를 최적화한다.

실험 결과

연구 질문

• RQ1 적대적으로 학습된 혼동 행렬이 비지도 도메인 적응에서 자기학습 과정 동안 가짜 레이블의 노이즈를 효과적으로 줄일 수 있는가?
• RQ2 도메인 적대적 특징 정렬과 보정된 가짜 레이블 지도 학습을 결합하면, 각각의 방법을 별도로 사용할 때보다 더 나은 일반화 성능을 달성하는가?
• RQ3 손실 함수의 선택(예: unhinged vs. cross-entropy)이 보정된 가짜 레이블링 과정의 강건성과 성능에 어떤 영향을 미치는가?
• RQ4 정규화 항이 혼동 행렬의 적대적 훈련을 안정화시키는 데 기여하는 정도는 어떠한가?
• RQ5 제안된 방법은 레이블이 없는 타겟 데이터를 요구하지 않고 다양한 도메인 적응 벤치마크에서 최신 기술 수준의 성능을 달성할 수 있는가?

주요 결과

• ALDA는 네 가지 표준 비지도 도메인 적응 데이터셋인 Office-31, VisDA-2017, Office-Home, DomainNet에서 최신 기술 수준의 성능을 달성한다.
• Office-31 데이터셋에서 A→W 설정에서 ALDA는 상위 1 정확도 95.4%를 기록하여, DANN과 Mean Teacher와 같은 이전 최신 기술 수준의 방법보다 높은 성능을 보였다.
• 제거 실험에서 디스크림ิน레이터 손실의 정규화 항을 제거하면 성능이 크게 떨어지며, 이는 정규화 항이 훈련 안정성에 기여한다는 것을 확인한다.
• 보정된 타겟 손실을 사용하지 않고 기존의 가짜 레이블(즉, 표준 자기학습)을 사용할 경우 성능이 열 劣하므로, 혼동 행렬 보정의 필요성을 입증한다.
• 타겟 손실 함수에서 cross-entropy 대신 unhinged 손실을 사용할 경우 더 높은 성능을 기록하며, 이는 unhinged 손실이 균일한 노이즈에 대해 강건함을 시사한다.
• t-SNE 시각화 결과, ALDA는 DANN이나 자기학습만을 사용한 경우와 달리, 소스 도메인 클러스터와 유사하게 잘 정렬되고 구분 가능한 타겟 도메인 특징을 생성함을 확인했다.