[논문 리뷰] Less Confusion More Transferable: Minimum Class Confusion for Versatile Domain Adaptation.

Ying Jin, Ximei Wang외 2명|arXiv (Cornell University)|2019. 12. 08.

Domain Adaptation and Few-Shot Learning참고 문헌 38인용 수 3

한 줄 요약

이 논문은 비대칭적 도메인 적응 손실인 최소 클래스 혼동(MCC)을 제안한다. 이는 목표 예측에서 쌍별 클래스 혼동을 줄여주며, 수정 없이도 닫힘 집합, 부분 집합, 다중 소스, 다중 목표 도메인 적응(DA) 사례 네 가지를 모두 처리할 수 있는 단일 방법을 가능하게 한다. MCC는 특히 DomainNet에서 7.3%의 성능 향상을 기록하며 최첨단(SOTA) 기법들을 능가하며, 다양한 DA 프레임워크에서 수렴 속도와 성능을 향상시키는 유연한 정규화 기법으로 기능한다.

ABSTRACT

There are a variety of Domain Adaptation (DA) scenarios subject to label sets and domain configurations, including closed-set and partial-set DA, as well as multi-source and multi-target DA. It is notable that existing DA methods are generally designed only for a specific scenario, and may underperform for scenarios they are not tailored to. To this end, this paper studies Versatile Domain Adaptation (VDA), where one method can handle several different DA scenarios without any modification. Towards this goal, a more general inductive bias other than the domain alignment should be explored. We delve into a missing piece of existing methods: class confusion, the tendency that a classifier confuses the predictions between the correct and ambiguous classes for target examples, which is common in different DA scenarios. We uncover that reducing such pairwise class confusion leads to significant transfer gains. With this insight, we propose a general loss function: Minimum Class Confusion (MCC). It can be characterized as (1) a non-adversarial DA method without explicitly deploying domain alignment, enjoying faster convergence speed; (2) a versatile approach that can handle four existing scenarios: Closed-Set, Partial-Set, Multi-Source, and Multi-Target DA, outperforming the state-of-the-art methods in these scenarios, especially on one of the largest and hardest datasets to date (7.3% on DomainNet). Its versatility is further justified by two scenarios proposed in this paper: Multi-Source Partial DA and Multi-Target Partial DA. In addition, it can also be used as a general regularizer that is orthogonal and complementary to a variety of existing DA methods, accelerating convergence and pushing these readily competitive methods to stronger ones. Code is available at this https URL.

연구 동기 및 목표

• 기존 도메인 적응(DA) 기법들이 오직 하나의 특정 DA 시나리오에만 최적화되어 있어 다양한 설정 간 일반화 성능이 떨어지는 문제를 해결한다.
• 목표 도메인에서 정확한 클래스와 모호한 클래스 간 잘못된 예측이 발생하는 클래스 혼동을, 다양한 DA 설정 간 전이 성능을 저해하는 주요이고 간과된 요인으로 규명한다.
• 아키텍처나 학습 방식의 수정 없이도 여러 시나리오에서 우수한 성능을 내는 통합된 다용도 도메인 적응 방법을 개발한다.
• 클래스 간 혼동을 줄이고 다양한 도메인 이동 설정에서 모델의 강건성을 향상시키는 일반적인 손실 함수인 최소 클래스 혼동(MCC)을 수립한다.
• MCC가 기존 DA 방법에 즉각 적용 가능한 플러그인 정규화 기법으로 기능할 수 있음을 입증하며, 다양한 벤치마크에서 수렴 속도와 성능 향상을 이룬다.

제안 방법

• 목표 샘플에 대해 예측된 클래스 확률과 진짜 클래스 확률 간의 쌍별 혼동을 최소화하는 비대칭 손실 함수인 최소 클래스 혼동(MCC)을 제안한다.
• 정확한 클래스 예측이 모호하거나 잘못된 클래스 대비 더 확신 있게 이루어지도록 유도하는 대비 유사 목적 함수로 MCC를 수립한다.
• 도메인 정렬과 독립적으로 설계되어, 대비적 DA 방법보다 더 빠른 수렴 속도를 확보한다.
• 도메인 구분자 네트워크나 도메인 특화의 적응 모듈이 필요 없이 표준 분류 헤드에 MCC를 통합한다.
• 닫힘 집합, 부분 집합, 다중 소스, 다중 목표 DA와 같은 네 가지 표준 DA 시나리오에 MCC를 적용하여 그 다용도성을 입증한다.
• 두 가지 새로운 시나리오인 다중 소스 부분 DA 및 다중 목표 부분 DA에 MCC를 확장하여, 표준 설정을 초월한 일반화 능력을 검증한다.

실험 결과

연구 질문

• RQ1 아키텍처나 학습 방식의 수정 없이도 하나의 도메인 적응 방법이 여러 다른 DA 시나리오를 효과적으로 처리할 수 있는가?
• RQ2 정확한 클래스와 모호한 클래스 간의 혼동을 줄이면 다양한 도메인 이동 설정에서 전이 성능에 어떤 영향을 미치는가?
• RQ3 비대칭적이고 혼동을 최소화하는 손실이 대비적 도메인 정렬 방법보다 수렴 속도와 정확도 면에서 얼마나 뛰어나게 성능을 내는가?
• RQ4 제안된 최소 클래스 혼동(MCC) 손실이 기존 최첨단(SOTA) DA 방법을 향상시키는 일반적인 정규화 기법으로 기능할 수 있는가?
• RQ5 MCC는 특히 극한의 도메인 이동과 부분 레이블 설정에서 어려운 벤치마크인 DomainNet에서 어떤 성능을 보이는가?

주요 결과

• 제안된 최소 클래스 혼동(MCC) 손실은 닫힘 집합, 부분 집합, 다중 소스, 다중 목표 DA와 같은 네 가지 표준 도메인 적응 시나리오에서 최첨단 성능을 달성한다.
• 어려운 DomainNet 벤치마크에서 이전 최첨단 기법 대비 7.3%의 정확도 향상을 기록하며 극한의 도메인 이동 상황에서도 뛰어난 성능을 입증한다.
• MCC는 재학습이나 아키텍처 변경 없이도 하나의 모델이 여러 DA 시나리오에 일반화할 수 있도록 해주며, 그 다용도성을 입증한다.
• 기존 DA 방법과 함께 정규화 기법으로 사용할 경우 MCC는 수렴 속도를 크게 향상시키며, 학습 동역학과 최종 성능을 모두 향상시킨다.
• MCC는 새로 제안된 두 가지 시나리오인 다중 소스 부분 DA 및 다중 목표 부분 DA에도 일반화되어, 그 강건성과 적응 가능성에 대한 추가적인 검증을 제공한다.
• MCC의 비대칭 설계 덕분에 대비적 도메인 정렬 방법보다 더 빠른 수렴 속도를 보이며, 성능는 유지하거나 초월한다.