[논문 리뷰] Unsupervised Domain Adaptation without Source Data by Casting a BAIT.

Shiqi Yang, Yaxing Wang외 3명|arXiv (Cornell University)|2020. 10. 23.

Domain Adaptation and Few-Shot Learning참고 문헌 36인용 수 55

한 줄 요약

이 논문은 원천 데이터가 필요 없이 원천 분류기 프로토타입과 타겟 특징을 정렬하는 데 사용할 수 있는 학습 가능한 분류기를 '미끼'로 활용하는 소스 프리 비지도 도메인 적응 방법인 BAIT를 제안한다. 원천 분류기를 고정하고 도메인 이동으로 인해 흩어지는 타겟 특징을 끌어당기는 새로운 프로토타입을 도입함으로써, BAIT는 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Unsupervised domain adaptation (UDA) aims to transfer the knowledge learned from a labeled source domain to an unlabeled target domain. Existing UDA methods require access to source data during adaptation, which may not be feasible in some real-world applications. In this paper, we address the source-free unsupervised domain adaptation (SFUDA) problem, where only the source model is available during the adaptation. We propose a method named BAIT to address SFUDA. Specifically, given only the source model, with the source classifier head fixed, we introduce a new learnable classifier. When adapting to the target domain, class prototypes of the new added classifier will act as a bait. They will first approach the target features which deviate from prototypes of the source classifier due to domain shift. Then those target features are pulled towards the corresponding prototypes of the source classifier, thus achieving feature alignment with the source classifier in the absence of source data. Experimental results show that the proposed method achieves state-of-the-art performance on several benchmark datasets compared with existing UDA and SFUDA methods.

연구 동기 및 목표

• 적응 과정에서 원천 데이터가 이용 가능하지 않을 경우 비지도 도메인 적응의 과제를 해결하기 위해.
• 적응 도메인에서 원천 모델만을 활용하여 도메인 적응을 수행하는 방법을 개발하기 위해.
• 원천 데이터에 접근하지 않고도 원천 도메인과 타겟 도메인 간의 효과적인 특징 정렬을 달성하기 위해.
• 기존의 비지도 도메인 적응 및 소스 프리 도메인 적응 방법들을 표준 벤치마크에서 능가하기 위해.

제안 방법

• 새로운 학습 가능한 분류기가 도입되며, 이 분류기의 클래스 프로토타입이 도메인 이동으로 인해 흩어지는 타겟 특징을 끌어당기는 '미끼' 역할을 한다.
• 적응 과정에서 원천 모델의 분류기 헤드를 고정하여 학습된 원천 지식을 유지한다.
• 원천 분류기 프로토타입에서 벗어나는 타겟 특징은 새로운 분류기의 프로토타입 쪽으로 끌려가 도메인 불일치를 줄인다.
• 타겟 도메인 데이터만을 사용하여 새로운 분류기의 프로토타입을 최적화함으로써 타겟 특징 정렬을 반복적으로 개선한다.
• 원천 데이터 없이도 특징 클러스터링과 프로토타입 기반 최적화를 통해 정렬을 달성하기 위한 프레임워크를 구축한다.
• 원천 분류기 출력의 구조적 불변성을 활용함으로써 원천 데이터 없이도 도메인 적응을 가능하게 하는 프레임워크를 제공한다.

실험 결과

연구 질문

• RQ1 원천 데이터에 접근할 수 없는 상황에서도 효과적인 도메인 적응을 달성할 수 있는가?
• RQ2 원천 데이터가 이용 가능하지 않을 경우 원천 도메인과 타겟 도메인 간의 특징 정렬을 어떻게 달성할 수 있는가?
• RQ3 학습 가능한 프로토타입이 타겟 특징을 원천 분류기 표현으로 유도하는 데 효과적인 '미끼' 역할을 할 수 있는가?
• RQ4 원천 모델과 타겟 데이터만을 사용하는 소스 프리 도메인 적응 방법의 성능은 어떠한가?
• RQ5 기존의 UDA 및 SFUDA 접근법과 비교해 볼 때 제안된 방법은 정확도와 내성 면에서 어떻게 다른가?

주요 결과

• BAIT는 소스 프리 비지도 도메인 적응 환경에서 여러 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성한다.
• 기존의 UDA 및 SFUDA 기반선 대비 타겟 도메인 분류 정확도를 크게 향상시킨다.
• 학습 가능한 분류기를 '미끼'로 사용함으로써 BAIT는 원천 데이터가 필요 없이도 도메인 이동을 효과적으로 줄인다.
• 고정된 원천 분류기 헤드는 지식 전이의 안정성을 보장하고, 동시에 새로운 분류기는 타겟 특징에 적응한다.
• 다양한 도메인 이동 시나리오에 걸쳐 강력한 일반화 성능을 보여준다.
• 실험 결과는 새로운 분류기의 프로토타입 기반 정렬이 원천 데이터 없이도 효과적인 적응을 가능하게 한다는 것을 확인한다.