[논문 리뷰] Reusing the Task-specific Classifier as a Discriminator: Discriminator-free Adversarial Domain Adaptation

Lin Chen, Huaian Chen외 5명|arXiv (Cornell University)|2022. 04. 08.

Domain Adaptation and Few-Shot Learning인용 수 13

한 줄 요약

이 논문은 태스크 특화 분류기를 새로운 핵형-워샤르스타인 불일치(NWD)를 사용해 디스크리미네이터로 재활용함으로써 외부 디스크리미네이터가 필요 없는 적대적 도메인 적응 프레임워크인 DALN을 제안한다. 단일 목적 함수 아래에서 도메인 정렬과 분류 가시성의 통합을 통해 추가 학습 컴포넌트 없이도 우수한 특징 정렬과 예측 신뢰성을 달성하며, 여러 벤치마크에서 최신 기법들을 능가한다.

ABSTRACT

Adversarial learning has achieved remarkable performances for unsupervised domain adaptation (UDA). Existing adversarial UDA methods typically adopt an additional discriminator to play the min-max game with a feature extractor. However, most of these methods failed to effectively leverage the predicted discriminative information, and thus cause mode collapse for generator. In this work, we address this problem from a different perspective and design a simple yet effective adversarial paradigm in the form of a discriminator-free adversarial learning network (DALN), wherein the category classifier is reused as a discriminator, which achieves explicit domain alignment and category distinguishment through a unified objective, enabling the DALN to leverage the predicted discriminative information for sufficient feature alignment. Basically, we introduce a Nuclear-norm Wasserstein discrepancy (NWD) that has definite guidance meaning for performing discrimination. Such NWD can be coupled with the classifier to serve as a discriminator satisfying the K-Lipschitz constraint without the requirements of additional weight clipping or gradient penalty strategy. Without bells and whistles, DALN compares favorably against the existing state-of-the-art (SOTA) methods on a variety of public datasets. Moreover, as a plug-and-play technique, NWD can be directly used as a generic regularizer to benefit existing UDA algorithms. Code is available at https://github.com/xiaoachen98/DALN.

연구 동기 및 목표

• 기존의 적대적 도메인 적응 기법이 분류 정보를 忽略하거나 특징 정합이 열악하여 발생하는 모드 붕괴 문제를 해결하기 위해.
• 추가적인 디스크리미네이터 네트워크를 제거하기 위해 기존의 태스크 특화 분류기를 디스크리미네이터로 재활용함으로써 모델 아키텍처를 단순화하기 위해.
• 도메인 정합을 위한 명확한 지침을 제공하면서도 분류 수준의 정보를 유지하는 새로운 불일치 측정지표인 핵형-워샤르스타인 불일치(NWD)를 설계하기 위해.
• 통합 목적 함수를 통해 도메인 불변 표현 학습과 고품질 분류를 동시에 달성하기 위해.
• 제안된 NWD가 기존의 UDA 기법에 아키텍처 변경 없이도 플러그-앤플레이 규제로 활용될 수 있음을 입증하기 위해.

제안 방법

• 외부 디스크리미네이터 네트워크가 필요 없는 새로운 적대적 프레임워크를 제안하며, 태스크 특화 분류기를 디스크리미네이터로 재활용함으로써 이를 실현한다.
• 핵형-워샤르스타인 불일치(NWD)를 도입하여 핵형 노름과 1-워샤르스타인 거리의 조합으로 이루어진 불일치 측정지표를 제안함으로써 예측의 결정성과 다양성을 향상시킨다.
• 원천 도메인에 대한 지도 학습 덕분에 NWD는 원천 도메인 샘플에 대해 높은 점수를, 타겟 도메인 샘플에 대해 낮은 점수를 자연스럽게 부여함으로써 강력한 분류 지침을 제공한다.
• NWD는 가중치 클리핑이나 기울기 페널티를 요구하지 않아도 K-립시츠 제약 조건을 만족시키므로 학습 안정성을 단순화한다.
• NWD를 분류기 손실에 통합하여 도메인 정합과 분류 가시성을 단일 목적 함수에서 함께 최적화한다.
• 플러그-앤플레이 설계를 채택함: NWD는 아키텍처 변경 없이 DANN 및 MDD와 같은 기존 UDA 모델에 직접 규제자로 적용 가능하다.

실험 결과

연구 질문

• RQ1 추가 네트워크 없이도 태스크 특화 분류기를 적대적 도메인 적응에서 효과적으로 디스크리미네이터로 재활용할 수 있는가?
• RQ2 지속적인 지침(예: 지도 학습을 통한 원천 레이블)을 내재한 불일치 측정지표가 도메인 정합과 분류 가시성의 향상에 기여하는가?
• RQ3 제안된 핵형-워샤르스타인 불일치(NWD)가 가중치 클리핑이나 기울기 페널티 없이도 K-립시츠 제약 조건을 만족시키는가?
• RQ4 도메인 정합과 분류의 통합 최적화가 일반화 성능 향상과 모드 붕괴 감소에 얼마나 기여하는가?
• RQ5 NWD는 기존의 최신 SOTA UDA 기법의 성능 향상에 일반적인 규제자로 활용될 수 있는가?

주요 결과

• 제안된 DALN 모델은 추가 컴포넌트 없이도 Office-31 및 Office-Home와 같은 여러 공개 벤치마크에서 최신 기법들을 능가한다.
• 혼동 행렬을 통해 DALN는 더 높은 대각선 값(즉, 더 높은 클래스별 예측 정확도)을 달성했음을 확인했으며, 오분류가 줄어들었다.
• 정확히 분류된 샘플의 고신뢰도 예측 비율(확률 > 0.9)이 DALN에서 원천 전용, DANN, MDD 대비 상당히 증가했다.
• DALN는 특히 자원이 부족한 클래스에서 분류 다양성을 향상시켜, 미대표 클래스에서 더 많은 샘플을 정확히 분류했다.
• t-SNE 시각화 결과, DALN는 DANN 및 MDD보다 더 밀도 있는 내부 클래스 군집과 더 분리된 간섭 클래스 분포를 학습함을 확인했다.
• NWD를 DANN 및 MDD에 규제자로 적용했을 때, 양 모델 모두 내부 클래스의 밀도와 간섭 클래스의 분리도가 향상되어 NWD의 일반화 가능성 확인됨.