[논문 리뷰] Unsupervised Domain Adaptation via Calibrating Uncertainties

Ligong Han, Yang Zou외 3명|arXiv (Cornell University)|2019. 07. 25.

Domain Adaptation and Few-Shot Learning참고 문헌 28인용 수 12

한 줄 요약

이 논문은 예측 불확실성의 캘리브레이션을 위해 Rényi 엔트로피 정규화(RER)와 기울기 분산 정규화(GVR)를 사용하는 새로운 비지도 도메인 적응 프레임워크를 제안한다. 베이지안 신경망을 활용해 신뢰할 수 있는 불확실성 추정을 하고 도메인 간 불확실성 분포를 정렬함으로써, 숫자 분류 및 VisDA17 벤치마크에서 최신 기술 성능을 달성하며, SVHN→MNIST에서 최대 25.4% 향상과 VisDA17에서 34.56% 향상을 기록한다.

ABSTRACT

Unsupervised domain adaptation (UDA) aims at inferring class labels for unlabeled target domain given a related labeled source dataset. Intuitively, a model trained on source domain normally produces higher uncertainties for unseen data. In this work, we build on this assumption and propose to adapt from source to target domain via calibrating their predictive uncertainties. The uncertainty is quantified as the Renyi entropy, from which we propose a general Renyi entropy regularization (RER) framework. We further employ variational Bayes learning for reliable uncertainty estimation. In addition, calibrating the sample variance of network parameters serves as a plug-in regularizer for training. We discuss the theoretical properties of the proposed method and demonstrate its effectiveness on three domain-adaptation tasks.

연구 동기 및 목표

• 딥 신경망의 비지도 도메인 적응(UbDA)에서의 불안정성과 과신 문제를 해결하기 위해, 잘못된 예측에 대해 높은 신뢰도를 부여하는 모델을 다루는 것.
• 자기 학습에서의 가짜 레이블 신뢰도를 향상시키기 위해 타겟 도메인 데이터에 대한 정확하고 정량화 가능한 불확실성 추정을 가능하게 하는 것.
• 소스 도메인과 타겟 도메인 간 불확실성 분포를 정렬함으로써 더 나은 도메인 적응을 위한 일반적이고 모델에 종속되지 않는 정규화 프레임워크를 개발하는 것.
• 불확실성 추정을 위한 베이지안 및 빈도주의 접근 방식을 탐색하기 위해 각각 변분 추론과 기울기 분산 정규화(GVR)를 활용하여 더 뛰어난 내성적 안정성을 확보하는 것.

제안 방법

• 출력 확률 분포의 Rényi 엔트로피를 사용해 예측 불확실성을 정량화하며, order α는 샤논 엔트로피와 최소 엔트로피를 일반화한 것이다.
• 재구성 및 몬테카를로 샘플링을 활용한 변분 베이지안 신경망(BNNs)을 사용해 경험적 불확실성과 애날로지 불확실성을 동시에 추정한다.
• 학습 중 네트워크 파라미터의 표본 분산을 제어하는 플러그인 정규화로 기울기 분산 정규화(GVR)를 도입하여 모델 불확실성을 반영한다.
• 소스 도메인과 타겟 도메인 간 불확실성 불일치를 최소화하는 Rényi 엔트로피 정규화(RER) 프레임워크를 제안한다.
• 두 개의 헤드를 가진 이중 헤드 네트워크 아키텍처를 사용: 하나는 로짓을 위한 것이고, 다른 하나는 로짓의 로그 분산을 위한 것으로, 불확실성 인식 학습을 가능하게 한다.
• 소스 및 타겟 예측의 Rényi 엔트로피 분포 간 발산을 최소화하여 불확실성 캘리브레이션을 수행함으로써, 불확실성 일관성을 통한 도메인 정렬을 촉진한다.

실험 결과

연구 질문

• RQ1 기존의 엔트로피 최소화와 비교해 Rényi 엔트로피 기반의 불확실성 캘리브레이션이 비지도 도메인 적응 성능을 향상시킬 수 있는가?
• RQ2 베이지안 신경망을 통합함으로써 도메인 분포 이탈 상황에서 불확실성 추정의 신뢰도가 상당히 향상되는가?
• RQ3 네트워크 파라미터의 기울기 분산이 모델에 종속되지 않는 방식으로 불확실성 캘리브레이션을 위한 유효하고 효과적인 정규화로 기능할 수 있는가?
• RQ4 불확실성 캘리브레이션은 자기 학습 기반 UDA에서 가짜 레이블의 안정성과 정확성에 어떤 영향을 미치는가?
• RQ5 불확실성 캘리브레이션은 미리 보지 않은 타겟 도메인 데이터에 대한 과신을 얼마나 줄이고 일반화 성능을 향상시키는가?

주요 결과

• MNIST→USPS에서 제안된 BRER-∞ 방법은 GVR를 적용해 94.53%의 정확도를 기록했으며, 기본 DTN 모델 대비 9.64% 향상되었다.
• SVHN→MNIST에서 BRER-∞는 GVR를 적용해 96.38%의 정확도를 달성했으며, 소스 전용 기준선 대비 25.40% 향상되었다.
• VisDA17에서 BRER-∞는 평균 80.59%의 정확도를 기록했으며, 비베이지안 ResNet101 기준선 대비 34.56% 향상되었다.
• 모든 벤치마크에서 α=∞(최소 엔트로피)인 RER-∞가 α=1(샤논 엔트로피)인 RER-1보다 안정성과 정확도 면에서 일관되게 뛰어났다.
• GVR의 추가는 RER-∞ 및 BRER-∞ 설정에서는 성능 향상을 가져왔지만, RER-1에서는 그렇지 않아, GVR의 효과가 불확실성 추정 방법과 관련이 있음을 시사한다.
• 베이지안 모델(BDTN, BRes101)이 비베이지안 대비(BDN, ResNet101)에서 더 뛰어난 성능을 보여, 적절한 불확실성 추정의 이점이 확인되었다.