[논문 리뷰] Semi-supervised Domain Adaptation via Minimax Entropy

Kuniaki Saito, Donghyun Kim외 3명|arXiv (Cornell University)|2019. 04. 13.

Domain Adaptation and Few-Shot Learning참고 문헌 39인용 수 76

한 줄 요약

Minimax Entropy (MME)를 소개하는 적대적이고 엔트로피 기반의 SSDA 방법으로, unlabeled target 데이터에 대한 엔트로피 극대화와 특징 추출기에서의 엔트로피 최소화를 번갈아 수행하여 도메인 불변의 프로토타입과 판별 가능한 특징을 학습합니다.

ABSTRACT

Contemporary domain adaptation methods are very effective at aligning feature distributions of source and target domains without any target supervision. However, we show that these techniques perform poorly when even a few labeled examples are available in the target. To address this semi-supervised domain adaptation (SSDA) setting, we propose a novel Minimax Entropy (MME) approach that adversarially optimizes an adaptive few-shot model. Our base model consists of a feature encoding network, followed by a classification layer that computes the features' similarity to estimated prototypes (representatives of each class). Adaptation is achieved by alternately maximizing the conditional entropy of unlabeled target data with respect to the classifier and minimizing it with respect to the feature encoder. We empirically demonstrate the superiority of our method over many baselines, including conventional feature alignment and few-shot methods, setting a new state of the art for SSDA.

연구 동기 및 목표

• 표적 라벨이 적은 SSDA 설정에서 비지도 학습/도메인 정렬 방법의 한계를 입증한다.
• 라벨이 없는 타깃 데이터를 활용해 분류기를 적응시키는 minimax entropy 프레임워크를 제안한다.
• 코사인 유사도 기반의 프로토타입 분류기를 개발하며, 프로토타입은 엔트로피 기반 목적에 따라 적응된다.
• DomainNet, Office-Home, Office 데이터셋에서 one-shot 및 three-shot 설정에 걸쳐 MME가 기초 방법보다 우수하다는 것을 보인다.]
• methodรุ่งนี้:

제안 방법

• F를 피처 추출기, 코사인 유사도 분류기 C, 클래스 프로토타입 W를 사용하는 유사도 기반 네트워크를 채택한다.
• 라벨링되지 않은 타깃 데이터에 대한 예측 엔트로피를 최대화하여 도메인 불변 클래스 프로토타입을 추정한다(프로토타입 적응).
• 프로토타입 주변으로 라벨이 없는 타깃 특징을 클러스터링하기 위해 특징 추출기에 대해 엔트로피를 최소화한다(판별적 클러스터링).
• 라벨이 있는 소스 및 타깃 데이터에 대한 표준 분류 손실과 함께 lambda라는 하이퍼파라미터로 제어되는 minimax 엔트로피 항을 추가하여 F와 C를 학습한다.
• 그라디언트 역전 계층을 통해 C의 엔트로피 극대화와 F의 엔트로피 최소화를 공동으로 최적화하는 minimax 게임을 구현한다.
• DomainNet, Office-Home, Office 데이터셋에서 one-shot 및 three-shot 타깃 라벨 조건으로 평가하고 베이스라인 대비 향상을 보고한다.

실험 결과

연구 질문

• RQ1 표적 라벨 예제가 몇 개만 있을 때 기존의 UDA/SSL 방법이 SSDA 성능을 향상시키나요?
• RQ2 도메인 불변 프로토타입 추정에 대한 적대적이고 엔트로피 기반 접근법이 타깃 도메인 판별력을 향상시킬 수 있나요?
• RQ3 라벨링되지 않은 타깃 데이터에서 엔트로피를 최대화해 프로토타입을 조정한 다음 특징 추출기에서 엔트로피를 최소화하는 것이 도메인 간 발산을 줄이고 정확도를 향상시킬까요?
• RQ4 다양한 데이터셋과 네트워크 백본에 걸쳐 표준 엔트로피 최소화 및 도메인 정렬 베이스라인과 MM E의 성능은 어떻게 비교되나요?

주요 결과

• MME는 여러 벤치마크와 아키텍처에서 SSDA의 최첨단 성능을 달성한다.
• 기초 방법과 비교해 MME는 one-shot 및 three-shot 설정에서 간단한 소스-타깃 훈련에 비해 오차를 상당한 폭으로 감소시킨다.
• 엔트로피 기반 프로토타입 적응과 featureExtractor 클러스터링의 결합이 더 나은 도메인 정렬과 판별 가능한 타깃 특징을 가져 온다.
• MME는 SSDA 상황에서 특징 분포 정렬에만 의존하는 비지도 도메인 적응 방법보다 일관되게 우수하다.
• 시각화와 분석은 MME 하에서 도메인 발산이 줄고 더 조밀하며 프로토타입 중심의 타깃 특징 클러스터가 형성됨을 보여준다.