[논문 리뷰] Bayesian Uncertainty Matching for Unsupervised Domain Adaptation

Jun Wen, Nenggan Zheng외 3명|arXiv (Cornell University)|2019. 06. 24.

Domain Adaptation and Few-Shot Learning참고 문헌 23인용 수 9

한 줄 요약

이 논문은 베이지안 신경망을 사용한 예측 불확실성 모델링을 통해 특징과 레이블 분포를 동시에 보정함으로써 비지도 도메인 적응을 위한 베이지안 불확실성 매칭(Bayesian Uncertainty Matching, BUM)을 제안한다. 소스 도메인과 타겟 도메인 간의 불확실성 차이를 최소화함으로써 조건부 분포 이탈과 악성 전이를 감소시키며, Office-31 및 Office-Home 벤치마크에서 최신 기법들을 능가하는 일관된 정확도 향상과 강건성을 확보한다.

ABSTRACT

Domain adaptation is an important technique to alleviate performance degradation caused by domain shift, e.g., when training and test data come from different domains. Most existing deep adaptation methods focus on reducing domain shift by matching marginal feature distributions through deep transformations on the input features, due to the unavailability of target domain labels. We show that domain shift may still exist via label distribution shift at the classifier, thus deteriorating model performances. To alleviate this issue, we propose an approximate joint distribution matching scheme by exploiting prediction uncertainty. Specifically, we use a Bayesian neural network to quantify prediction uncertainty of a classifier. By imposing distribution matching on both features and labels (via uncertainty), label distribution mismatching in source and target data is effectively alleviated, encouraging the classifier to produce consistent predictions across domains. We also propose a few techniques to improve our method by adaptively reweighting domain adaptation loss to achieve nontrivial distribution matching and stable training. Comparisons with state of the art unsupervised domain adaptation methods on three popular benchmark datasets demonstrate the superiority of our approach, especially on the effectiveness of alleviating negative transfer.

연구 동기 및 목표

• 기존 비지도 도메인 적응 기법이 균형 특징 분포만 정렬함에 따라 분류기 내 레이블 분포 이탈을 忽略하는 한계를 해결하기 위해.
• 소스 데이터에서 학습된 편향된 분류기가 타겟 도메인에 적용될 때 발생하는 조건부 분포 이탈을 감소시키기 위해.
• 특징과 레이블 분포를 동시에 매칭함으로써 도메인 적응에서 일반화 성능 향상과 악성 전이 완화를 위해.
• 타겟 레이블이 없을 경우 예측 불확실성을 레이블 분포 매칭의 대체 지표로 활용할 수 있는 방법을 개발하기 위해.
• 도메인 적응 손실의 적응적 재가중을 통해 안정적인 학습과 효과적인 도메인 정렬을 달성하기 위해.

제안 방법

• 예측 불확실성을 모델링하기 위해 베이지안 신경망(Bayesian neural networks, BNNs)을 활용하여 조건부 분포 P(Y|Gϕ(X))의 대체 지표로 활용한다.
• 소스 및 타겟 도메인 간의 불확실성 차이를 최소화하여 특징과 예측의 결합 분포를 정렬한다.
• 도메인 간 특징 분포 이질성과 예측 불확실성 이질성을 동시에 최소화하는 공동 최적화 목표를 수립한다.
• 학습 안정성 향상과 분포 정렬 향상을 위해 도메인 적응 손실의 적응적 재가중을 적용한다.
• 재학습 없이도 불확실성을 추정할 수 있도록 BNN 내 몬테카를로 드롭아웃을 사용해 근사 베이지안 추론을 수행한다.
• t-SNE를 활용한 표현 시각화를 통해 결합 분포 정렬 향상과 결정 경계 근처의 오분류 감소를 확인한다.

실험 결과

연구 질문

• RQ1 예측 불확실성은 비지도 도메인 적응에서 레이블 분포 매칭의 효과적인 대체 지표로 기능할 수 있는가?
• RQ2 특징과 불확실성 분포를 동시에 매칭함으로써 분류기 내 조건부 분포 이탈이 감소하는가?
• RQ3 소스 및 타겟 도메인의 레이블 분포가 상이할 경우 불확실성 매칭이 악성 전이를 완화할 수 있는가?
• RQ4 정확도와 강건성 측면에서 불확실성 매칭은 균형 특징 분포 정렬 기법보다 어떻게 비교되는가?
• RQ5 적응적 손실 재가중은 불확실성 기반 도메인 적응에서 학습 안정성과 도메인 정렬 향상에 기여하는가?

주요 결과

• Office-31 데이터셋에서 BUM은 31→25 작업에서 73.4%의 정확도를 기록했고, 25→25(+6) 작업에서는 74.6%를 달성하여 DANN 및 MADA를 능가했다.
• 31→25 작업에서 DANN는 악성 전이로 인해 성능 저하를 겪었지만, BUM은 이 문제를 효과적으로 완화하여 64.9%의 정확도를 기록했다.
• Office-Home에서 BUM은 31→25 작업에서 76.5%의 정확도를 기록했고, 25→25(+6) 작업에서는 74.8%를 달성하여 다양한 도메인 간 강력한 일반화 성능을 입증했다.
• BUM은 소스와 타겟 도메인 간 예측 불확실성 간 격리가 크게 감소하여 테스트 정확도 향상과 안정적인 수렴과 관련이 있음을 확인했다.
• t-SNE 시각화 결과 BUM이 결정 경계 근처의 오분류 타겟 샘플을 감소시켜 특징 및 불확실성 정렬 향상을 확인했다.
• 손실의 적응적 재가중은 특히 노이즈가 많거나 불균형한 환경에서 학습 안정성 향상과 공동 분포 정렬 향상에 기여했다.