[논문 리뷰] Entropy Minimization vs. Diversity Maximization for Domain Adaptation

Xiaofu Wu, Suofei hang외 4명|arXiv (Cornell University)|2020. 02. 05.

Domain Adaptation and Few-Shot Learning참고 문헌 46인용 수 13

한 줄 요약

이 논문은 잡다한 해법을 방지하기 위해 엔트로피 최소화와 다양성 최대화를 균형 있게 조합하는 새로운 비지도 도메인 적응 방법인 최소 엔트로피 다양성 최대화(MEDM)를 제안한다. 초기화된 하이퍼파라미터 튜닝을 위한 딥 임bedded 검증(DEV)을 사용함으로써, MEDM은 VisDA-2017, ImageCLEF, Office-Home, Office-31에서 최고 성능을 기록하며, SVHN→MNIST에서 98.7%의 정확도를 달성하여 엔트로피 최소화 전용 기준 모델 및 이전 최고 성능 방법보다 뚜렷이 뛰어나다.

ABSTRACT

Entropy minimization has been widely used in unsupervised domain adaptation (UDA). However, existing works reveal that entropy minimization only may result into collapsed trivial solutions. In this paper, we propose to avoid trivial solutions by further introducing diversity maximization. In order to achieve the possible minimum target risk for UDA, we show that diversity maximization should be elaborately balanced with entropy minimization, the degree of which can be finely controlled with the use of deep embedded validation in an unsupervised manner. The proposed minimal-entropy diversity maximization (MEDM) can be directly implemented by stochastic gradient descent without use of adversarial learning. Empirical evidence demonstrates that MEDM outperforms the state-of-the-art methods on four popular domain adaptation datasets.

연구 동기 및 목표

• 엔트로피 최소화 기반 비지도 도메인 적응에서 모델이 단일 지배 클래스로 붕괴하는 잡다한 해법 문제를 해결한다.
• 예측의 카테고리 다양성을 명시적으로 최대화함으로써 타겟 도메인 일반화 성능을 향상시키며, 엔트로피 최소화를 보완한다.
• 대부분의 적대적 훈련이 필요 없는, 엔트로피 최소화와 다양성 최대화 사이의 근접 최적의 트레이드오프를 달성하는 방법을 개발한다.
• 타겟 레이블이 없을 경우에도 깊이 있는 임베딩 검증(DEV)을 통해 편향 없는 리스크 추정을 가능하게 하여 효과적인 하이퍼파라미터 선택을 가능하게 한다.
• 특히 대규모 데이터셋인 VisDA-2017과 같은 표준 도메인 적응 벤치마크에서 뛰어난 성능을 입증한다.

제안 방법

• 엔트로피 최소화와 다양성 최대화를 조합한 손실 함수를 제안하며, 다양성은 예측 클래스 확률의 분산으로 측정된다.
• 균형 잡힌 목적 함수를 도입: $\mathcal{L}_{\text{MEDM}} = \lambda \cdot H(\mathbf{p}) - \beta \cdot \mathcal{L}_d(\mathcal{T})$, 여기서 $H(\mathbf{p})$는 엔트로피이고 $\mathcal{L}_d(\mathcal{T})$는 다양성 손실이다.
• 딥 임베딩 검증(DEV)을 사용해 비지도 방식으로 타겟 리스크를 추정함으로써, 균형 하이퍼파rameter $\lambda$와 $\beta$의 자동 선택이 가능해진다.
• 적대적 훈련 없이 확률적 경사 하강법을 통해 모델을 종합적으로 훈련함으로써 최적화의 단순화와 안정성 향상을 이룬다.
• 비지도 타겟 데이터에 대해 MEDM 목적함수를 훈련 중에 적용하여, 확신 있는 예측과 예측 간의 균일한 클래스 분포를 유도한다.
• ResNet-50 백본을 사용하고 VisDA-2017, Office-31, Office-Home, ImageCLEF와 같은 여러 도메인 적응 벤치마크에서 훈련한다.

실험 결과

연구 질문

• RQ1 엔트로피 최소화 전용 기반의 비지도 도메인 적응에서 잡다한 해법이 발생할 수 있으며, 만약 그렇다면 그 원인은 무엇인가?
• RQ2 도메인 적응 중에 모델 예측의 다양성을 어떻게 명시적으로 최대화할 수 있으며, 이는 단일 클래스로의 붕괴를 방지하는 데 어떻게 기여하는가?
• RQ3 도메인 적응에서 타겟 리스크를 최소화하기 위해 엔트로피 최소화와 다양성 최대화 사이의 최적 트레이드오프는 무엇인가?
• RQ4 타겟 레이블이 없을 경우에도 깊이 있는 임베딩 검증(DEV)을 효과적으로 사용해 엔트로피와 다양성 간의 균형 하이퍼파라미터를 튜닝할 수 있는가?
• RQ5 엔트로피 최소화와 다양성 최대화를 조합하면 다양한 도메인 이동 상황에서 일관된 성능 향상이 이루어지는가?

주요 결과

• 엔트로피 최소화 전용(EMO)은 SVHN→MNIST에서 치명적인 실패를 겪어 단지 44.1%의 정확도를 기록하며, 예측이 단일 클래스(숫자-1)에 집중되어 있음을 보여, 잡다한 해법이 발생함을 시사한다.
• MEDM은 SVHN→MNIST에서 98.7%의 정확도를 달성하여 이전 최고 성능 방법인 MECA(95.2%)보다 3.5% 향상되었으며, 강력한 일반화 능력과 강인성을 입증한다.
• VisDA-2017에서 MEDM은 최고 성능을 기록하며, 가장 큰 벤치마크 데이터셋에서 기존 방법들에 비해 큰 격차를 보이며 뚜렷이 앞서나간다.
• 다양성 손실 $\mathcal{L}_d(\mathcal{T})$는 자동으로 균일한 클래스 분포를 유도하지 못하며, 성능 저하를 방지하기 위해 DEV를 통한 적절한 균형 조정이 필수적임을 보여준다.
• 만약 $\beta$가 너무 낮을 경우(예: <0.3), 일부 클래스가 식별되지 않으며, $\beta$가 너무 높을 경우(예: 0.5), 성능이 저하됨을 확인하여, 주의 깊은 하이퍼파라미터 튜닝의 필요성을 입증한다.
• MMD나 적대적 손실과 같은 도메인 차이 손실을 추가하면 성능이 더욱 악화됨을 확인하여, MEDM의 내부 균형이 외부 도메인 정렬보다 더 효과적임을 시사한다.