[논문 리뷰] Butterfly: A Panacea for All Difficulties in Wildly Unsupervised Domain Adaptation.

Feng Liu, Jie Lü외 4명|arXiv (Cornell University)|2019. 05. 19.

Domain Adaptation and Few-Shot Learning인용 수 21

한 줄 요약

이 논문은 소스 도메인 데이터가 노이즈가 많고 타겟 도메인 데이터가 레이블 없이 사용되는 와일드리 언 supervised 도메인 적응(WUDA)을 위한 새로운 프레임워크인 Butterfly를 제안한다. 네 개의 모델을 동시에 유지함으로써 노이즈 레이블, 도메인 이동, 분포 불일치 문제를 효과적으로 다루며, WUDA 환경에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

In unsupervised domain adaptation (UDA), classifiers for the target domain (TD) are trained with clean labeled data from the source domain (SD) and unlabeled data from TD. However, in the wild, it is hard to acquire a large amount of perfectly clean labeled data in SD given limited budget. Hence, we consider a new, more realistic and more challenging problem setting, where classifiers have to be trained with noisy labeled data from SD and unlabeled data from TD---we name it wildly UDA (WUDA). We show that WUDA provably ruins all UDA methods if taking no care of label noise in SD, and to this end, we propose a Butterfly framework, a panacea for all difficulties in WUDA. Butterfly maintains four models (e.g., deep networks) simultaneously, where two take care of all adaptations (i.e., noisy-to-clean, labeled-to-unlabeled, and SD-to-TD-distributional) and then the other two can focus on classification in TD. As a consequence, Butterfly possesses all the necessary components for all the challenges in WUDA. Experiments demonstrate that under WUDA, Butterfly significantly outperforms existing baseline methods.

연구 동기 및 목표

• 소스 도메인 데이터가 노이즈가 있고 타겟 도메인 데이터가 레이블이 없는 현실적이지만 도전적인 와일드리 언 supervised 도메인 적응(WUDA) 설정을 다루기.
• 기존 UDA 방법들이 소스 도메인의 노이즈 레이블을 다루지 못함으로써 WUDA 환경에서 치명적인 실패를 겪는다는 것을 규명하기.
• WUDA에서 노이즈 레이블, 도메인 이동, 분포 불일치 문제를 동시에 해결하는 통합 프레임워크 개발하기.
• 실제 데이터 수집 제약 조건을 반영하여 소스 데이터가 완벽하게 레이블링되지 않은 상태에서도 높은 성능을 유지할 수 있는 강력한 솔루션 제공하기.

제안 방법

• Butterfly는 네 개의 딥 네트워크를 병렬로 유지한다: 두 개는 적응을 위한 것(노이즈 보정 및 도메인 정렬), 두 개는 타겟 분류를 위한 것.
• 적응 모델은 소스 도메인의 노이즈 레이블을 보정하고 소스 및 타겟 도메인의 분포를 정렬하는 데 공동으로 학습한다.
• 노이즈 보정과 분류를 분리하는 듀얼 브랜치 아키텍처를 활용해 안정적이고 정확한 학습을 가능하게 한다.
• 일致성 정규화와 자기 학습 원리를 활용해 타겟 데이터의 의사 레이블을 개선하고 강건성을 향상시킨다.
• 네 모델의 설정을 통해 노이즈 유발 오차와 도메인 이동을 동시에 최소화하는 엔드 투 엔드 최적화를 가능하게 한다.
• 특정 백본 아키텍처에 종속되지 않도록 설계되어 있어 구현의 유연성을 제공한다.

실험 결과

연구 질문

• RQ1 기존의 비지도 도메인 적응(Ubiquitous Domain Adaptation, UDA) 방법들은 노이즈가 있는 소스 레이블 설정으로 일반화 가능한가, 아니면 치명적인 실패를 겪는가?
• RQ2 WUDA 환경에서 노이즈 레이블, 도메인 이동, 분포 불일치 문제를 동시에 해결하기 위해 필요한 아키텍처 및 학습 구성 요소는 무엇인가?
• RQ3 여러 전용 모델을 가진 통합 프레임워크가 더 현실적인 WUDA 환경에서 기존 방법들을 능가할 수 있는가?
• RQ4 제안된 Butterfly 프레임워크는 소스 도메인의 레이블 노이즈 수준이 증가함에 따라 성능을 어떻게 유지하는가?

주요 결과

• Butterfly는 WUDA 설정에서 기존 UDA 기반 모델들을 크게 앞서며, 레이블 노이즈에 대한 뛰어난 강건성을 입증한다.
• 표준 UDA 방법들이 무너지는 데 기여하는 소스 레이블의 노이즈로 인한 성능 저하를 효과적으로 완화한다.
• 네 모델 아키텍처는 다양한 벤치마크 데이터셋에서 안정적인 학습과 일관된 성능 향상을 가능하게 한다.
• Butterfly는 표준 WUDA 벤치마크에서 최신 기술 수준의 정확도를 달성하여 다중 문제를 동시에 다루는 효과성을 입증한다.
• 제거 실험을 통해 노이즈 보정 및 도메인 정렬 구성 요소가 최적 성능을 내기 위해 필수적임을 확인한다.
• 다양한 백본 네트워크와 데이터 분포에 대해 잘 일반화되어 있어 강력한 강건성과 적응 가능성임을 시사한다.