[논문 리뷰] Adversarial Open Set Domain Adaptation Based on Mutual Information

Tasfia Shermin, Guojun Lu외 3명|arXiv (Cornell University)|2020. 07. 01.

Domain Adaptation and Few-Shot Learning참고 문헌 45인용 수 1

한 줄 요약

이 논문은 소스 도메인에만 알려진 클래스가 존재하고 타겟 도메인에 알려진 클래스와 알려지지 않은 클래스가 모두 존재하는 오픈 세트 도메인 적응 문제를 해결하기 위해 다중 보조 분류기와 동적 가중치 모듈을 갖춘 새로운 적대적 도메인 적응 모델을 제안한다. 도메인 특성에 기반해 샘플 가중치를 적응적으로 할당함으로써, 기존 방법에 비해 부정적 전이를 줄이고 벤치마크 데이터셋에서 성능을 향상시킨다.

ABSTRACT

Domain adaptation aims to transfer knowledge from a domain with adequate labeled samples to a domain with scarce labeled samples. Prior research has introduced various open set domain adaptation settings in the literature to extend the applications of domain adaptation methods in real-world scenarios. This paper focuses on the type of open set domain adaptation setting where the target domain has both private ('unknown classes') label space and the shared ('known classes') label space. However, the source domain only has the 'known classes' label space. Prevalent distribution-matching domain adaptation methods are inadequate in such a setting that demands adaptation from a smaller source domain to a larger and diverse target domain with more classes. For addressing this specific open set domain adaptation setting, prior research introduces a domain adversarial model that uses a fixed threshold for distinguishing known from unknown target samples and lacks at handling negative transfers. We extend their adversarial model and propose a novel adversarial domain adaptation model with multiple auxiliary classifiers. The proposed multi-classifier structure introduces a weighting module that evaluates distinctive domain characteristics for assigning the target samples with weights which are more representative to whether they are likely to belong to the known and unknown classes to encourage positive transfers during adversarial training and simultaneously reduces the domain gap between the shared classes of the source and target domains. A thorough experimental investigation shows that our proposed method outperforms existing domain adaptation methods on a number of domain adaptation datasets.

연구 동기 및 목표

• 소스 도메인에 존재하지 않는 타겟 도메인에 존재하는 알려지지 않은 클래스가 포함된 도메인 적응 문제에 대응한다.
• 작은 소스 도메인에서 더 크고 다양한 타겟 도메인으로 적응할 때 실패하는 기존의 분포 매칭 방법의 한계를 극복한다.
• 적대적 학습 중 타겟 샘플이 알려진 클래스인지 알려지지 않은 클래스인지 동적으로 평가함으로써 부정적 전이를 줄인다.
• 공통(알려진) 클래스에 대한 도메인 정렬을 향상시키면서 동시에 타겟 도메인에서 알려지지 않은 클래스를 견고하게 탐지할 수 있도록 한다.
• 실제 응용에 적합한 현실 세계의 환경에서 고정 임계값 방법보다 뛰어난 성능을 보이는 방법을 개발한다.

제안 방법

• 특징 표현과 도메인 구분 능력을 향상시키기 위해 보조 분류기를 포함한 다중 분류기 구조를 도입한다.
• 도메인 특성에 기반해 타겟 샘플에 적응적인 가중치를 할당하기 위해 가중치 모듈을 설계한다.
• 적응 가중치를 사용해 적대적 학습을 이끌며, 알려진 클래스 샘플에 대해 긍정적 전이를 촉진하고 알려지지 않은 클래스 샘플의 간섭을 최소화한다.
• 도메인 적대적 손실과 분류 손실을 조합하여 공통 클래스 특징을 정렬하고 알려지지 않은 클래스를 탐지하는 방식으로 모델을 훈련한다.
• 가중치 메커니즘을 통해 상호정보 이론 원리를 암묵적으로 활용하여 표현 품질 향상과 도메인 일반화를 개선한다.
• 분류 정확도, 도메인 정렬, 알려지지 않은 클래스 탐지의 균형을 고려한 종합 목적 함수를 통해 모델을 종단 간 최적화한다.

실험 결과

연구 질문

• RQ1 소스 도메인에 존재하지 않는 알려지지 않은 클래스가 타겟 도메인에 존재하는 오픈 세트 환경에서 적대적 도메인 적응은 어떻게 향상시킬 수 있는가?
• RQ2 도메인 특성에 기반한 동적 가중치 메커니즘이 적대적 학습 중 부정적 전이를 줄일 수 있는가?
• RQ3 제안된 다중 분류기 구조는 고정 임계값 방법에 비해 알려진 클래스와 알려지지 않은 클래스 양쪽에서 성능을 얼마나 향상시키는가?
• RQ4 더 작은 소스 도메인과 더 크고 다양한 클래스를 포함한 더 큰 타겟 도메인 사이의 도메인 이동 문제는 어떻게 다루는가?
• RQ5 적응 가중치를 통해 상호정보 이론 원리를 통합함으로써 더 나은 특징 표현과 도메인 정렬을 달성할 수 있는가?

주요 결과

• 제안된 방법은 기존 최첨단 기법에 비해 여러 벤치마크 도메인 적응 데이터셋에서 뛰어난 성능을 달성한다.
• 동적 가중치 모듈은 알려진 클래스와 알려지지 않은 클래스 타겟 샘플을 효과적으로 구분하여 부정적 전이의 위험을 줄인다.
• 다중 분류기 구조는 특징의 분류 능력을 향상시키고 소스 도메인과 타겟 도메인 간의 공통(알려진) 클래스에 대한 정렬을 향상시킨다.
• 특히 도메인 이동이 심하고 타겟 클래스 분포가 다양할 경우 고정 임계값 방법보다 뛰어난 성능을 보이며 오픈 세트 도메인 적응에서 뛰어난 성능을 발휘한다.
• 실증 결과는 다양한 데이터셋 조합에서 알려진 클래스의 분류 정확도 향상과 더불어 알려지지 않은 클래스 탐지 능력 향상이 일관되게 관찰됨을 보여준다.