[논문 리뷰] Semi-supervised Models are Strong Unsupervised Domain Adaptation Learners

Yabin Zhang, Haojian Zhang외 4명|arXiv (Cornell University)|2021. 06. 01.

Domain Adaptation and Few-Shot Learning참고 문헌 60인용 수 15

한 줄 요약

이 논문은 반감독 학습(SSL) 방법, 특히 최신 기법인 Fix매치(FixMatch)가 비지도 도메인 적응(UDA) 기법보다 도메인넷(DomainNet)과 같은 UDA 벤치마크에서 레이블이 없는 타겟 데이터를 활용함으로써 뚜렷한 성능 향상을 보임을 보여준다. 저자들은 SSL이 UDA의 특수한 경우임을 입증하고, SSL 기법을 UDA 작업에 적응시킴으로써 최신 성능을 달성하며, 향후 UDA 연구에서 SSL 기법을 표준 기준으로 삼아야 한다고 주장한다.

ABSTRACT

Unsupervised domain adaptation (UDA) and semi-supervised learning (SSL) are two typical strategies to reduce expensive manual annotations in machine learning. In order to learn effective models for a target task, UDA utilizes the available labeled source data, which may have different distributions from unlabeled samples in the target domain, while SSL employs few manually annotated target samples. Although UDA and SSL are seemingly very different strategies, we find that they are closely related in terms of task objectives and solutions, and SSL is a special case of UDA problems. Based on this finding, we further investigate whether SSL methods work on UDA tasks. By adapting eight representative SSL algorithms on UDA benchmarks, we show that SSL methods are strong UDA learners. Especially, state-of-the-art SSL methods significantly outperform existing UDA methods on the challenging UDA benchmark of DomainNet, and state-of-the-art UDA methods could be further enhanced with SSL techniques. We thus promote that SSL methods should be employed as baselines in future UDA studies and expect that the revealed relationship between UDA and SSL could shed light on future UDA development. Codes are available at \url{https://github.com/YBZh}.

연구 동기 및 목표

• 비지도 도메인 적응(UDA)과 반감독 학습(SSL) 간의 관계를 조사하는 것. 이 두 기법은 전통적으로 별개의 범주로 간주되어 왔다.
• 최신 SSL 기법이 UDA 벤치마크에 효과적으로 적용되어 이전의 UDA 기법보다 뛰어난 성능을 내는지 평가하는 것.
• 도메인 차이 최소화 기반의 UDA 기법의 지배적 지위를 도전하기 위해, SSL 기반 기법이 뛰어난 성능을 내는 것을 입증하는 것.
• 향후 UDA 연구에서 SSL 기법을 표준 기준으로 삼아야 한다는 것을 주장하는 것.

제안 방법

• 비지도 도메인 적응(UDA) 벤치마크 네 가지—VisDA-2017, Office-Home, Office-31, DomainNet—에 대해 대표적인 SSL 알고리즘 여덟 종류(예: FixMatch, 일致성 정규화, 엔트로피 최소화)를 적용하였다.
• 이 구성에서 특징 추출기 $ g $ 에만 SSL 손실을 적용하는 것이 분류기나 함께 적용하는 것보다 항상 더 높은 성능을 보였기 때문에, 특징 추출기 $ g $ 에만 SSL 손실을 적용하였다.
• 표준 UDA 평가 프로토콜을 사용하였으며, 공정한 비교를 위해 레이블이 있는 타겟 검증 세트를 기반으로 모델 선택을 수행하였다.
• 모든 방법 간의 성능 차이를 알고리즘 설계의 영향으로만 분리하기 위해, 모든 방법에 동일한 데이터 전처리 전략을 적용하였다.
• 도메인 분산의 정도를 측정하기 위해 $ \mathcal{A} $-distance 를 사용하여, UDA 및 SSL 기법이 소스 도메인과 타겟 도메인 간의 분포 이탈을 얼마나 효과적으로 줄이는지 비교하였다.
• 수렴, 손실 적용 방식, 전처리 전략에 대한 분석을 통해 연구 결과의 강건성과 일반화 능력을 검증하였다.

실험 결과

연구 질문

• RQ1 비지도 도메인 적응(UDA)과 반감독 학습(SSL) 사이에 근본적인 관계가 존재하는가? 즉, SSL이 UDA의 특수한 경우로 간주될 수 있는가?
• RQ2 최신 SSL 기법이 기존의 UDA 전용 기법보다 UDA 벤치마크에서 뛰어난 성능을 내는가?
• RQ3 SSL 손실을 특징 추출기 $ g $ 에만 적용하는 것이 분류기나 함께 적용하는 것보다 UDA 성능을 더 좋게 하는가?
• RQ4 데이터 전처리 전략은 UDA 벤치마크에서 SSL과 UDA 기법 간의 성능 격차에 어떤 영향을 미치는가?
• RQ5 UDA 기법에 SSL 기법을 통합함으로써 성능을 추가로 향상시킬 수 있으며, 만약 그렇다면 어떤 구성 요소가 가장 효과적인가?

주요 결과

• 최신 기술인 SSL 기법인 FixMatch가 도메인넷 벤치마크에서 모든 기존 UDA 기법을 2.0% 이상의 정확도 격차로 능가하였다.
• SSL 기법은 일부 작업에서 도메인 분산을 크게 줄였지만, DANN 및 CDAN과 같은 전용 UDA 기법만큼 효과적이지는 않았다. 이는 도메인 정렬이 성능 향상의 유일한 원인은 아님을 시사한다.
• SSL 손실을 특징 추출기 $ g $ 에만 적용하는 것이 분류기나 함께 적용하는 것보다 UDA 작업에서 항상 더 높은 성능을 보였으며, 이는 아키텍처 설계의 중요성을 시사한다.
• 데이터 전처리 전략은 성능에 상당한 영향을 미쳤으며, 일부 방법에 대해 도메인넷에서 2% 이상의 정확도 격차가 관찰되었다. 이는 UDA 비교에서 일관된 전처리가 필요함을 강조한다.
• 실험 결과는 UDA에서 도메인 차이 최소화의 지배적 역할을 도전하며, 명시적인 도메인 정렬 없이도 SSL 기반 기법이 최신 성능을 달성할 수 있음을 보여준다.
• UDA 기법에 SSL 기법을 통합함으로써 추가적인 성능 향상이 이루어졌으며, 이는 SSL 기법이 기존 UDA 프레임워크를 향상시킬 수 있음을 입증한다.