[논문 리뷰] Contrastively Smoothed Class Alignment for Unsupervised Domain Adaptation

Shuyang Dai, Yu Cheng외 4명|arXiv (Cornell University)|2019. 09. 11.

Domain Adaptation and Few-Shot Learning참고 문헌 49인용 수 8

한 줄 요약

이 논문은 대비적으로 매끄러운 클래스 정렬(Contrastively Smoothed Class Alignment, CoSCA)을 제안하며, 이는 내부 및 외부 클래스 스무딩을 위한 대비 손실과 전역 도메인 정렬을 위한 최대 평균 차이(MMD)를 함께 최적화하여 특징 정렬을 향상시키는 새로운 비지도 도메 적응 방법이다. CoSCA는 개선된 클래스 조건부 정렬과 더 부드러운 결론 경계를 통해 더 구분력 있는 특징을 학습함으로써 여러 벤치마크에서 최신 기준 성능을 달성한다.

ABSTRACT

Recent unsupervised approaches to domain adaptation primarily focus on minimizing the gap between the source and the target domains through refining the feature generator, in order to learn a better alignment between the two domains. This minimization can be achieved via a domain classifier to detect target-domain features that are divergent from source-domain features. However, by optimizing via such domain classification discrepancy, ambiguous target samples that are not smoothly distributed on the low-dimensional data manifold are often missed. To solve this issue, we propose a novel Contrastively Smoothed Class Alignment (CoSCA) model, that explicitly incorporates both intra- and inter-class domain discrepancy to better align ambiguous target samples with the source domain. CoSCA estimates the underlying label hypothesis of target samples, and simultaneously adapts their feature representations by optimizing a proposed contrastive loss. In addition, Maximum Mean Discrepancy (MMD) is utilized to directly match features between source and target samples for better global alignment. Experiments on several benchmark datasets demonstrate that CoSCA can outperform state-of-the-art approaches for unsupervised domain adaptation by producing more discriminative features.

연구 동기 및 목표

• 결론 경계 근처의 모호한 타겟 샘플을 매끄럽게 하지 못하는 기존 비지도 도메 적응 방법의 한계를 해결하기 위해.
• 내부 및 외부 클래스 불일치를 모델링하여 소스 및 타겟 도메인 간의 클래스 조건부 특징 분포를 개선함으로써 정렬을 향상시키기 위해.
• 대비 학습을 MMD를 통한 전역 도메인 정렬과 통합하여 특징의 구분력과 학습 안정성을 향상시키기 위해.
• 저차원 공간에서의 비매끄러운 특징 다양체로 인한 부분 최적 해를 극복하기 위해.
• 대비 및 MMD 손실을 포함한 엔드 투 엔드 적대적 훈련을 통해 표준 UDA 벤치마크에서 최신 기준 성능을 달성하기 위해.

제안 방법

• CoSCA는 결론 경계 근처의 모호한 타겟 샘플이 그들의 클래스 조건부 이웃과 더 가까워지고 비이웃과 더 멀어지도록 유도하는 대비 손실을 도입한다.
• 이 방법은 대비 손실을 MMD 손실과 함께 최적화하여 소스 및 타겟 도메인 특징 분포의 전역 정렬을 강제한다.
• 특징 생성자와 도메인 구분자 간의 최소-최대 적대적 프레임워크를 사용하며, 특징 생성자는 도메인 구분자를 속이도록 훈련되고, 同시에 불일치 최대화를 통한 분류기 일관성 향상도 이루어진다.
• 모델은 타겟 샘플에 대한 잠재적 레이블 가설을 추정하고, 대비적으로 그들의 특징 표현을 개선하여 더 타이트하고 매끄러운 클러스터를 형성한다.
• 작은 배치 최적화를 사용하여 대비 및 MMD 정규화와 함께 적대적 학습을 엔드 투 엔드로 수행한다.
• 잠재 공간에서 내부 클래스의 조밀성과 외부 클래스의 분리도를 명시적으로 모델링하여 정렬과 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 대비 학습은 비지도 도메 적응에서 클래스 조건부 정렬의 매끄러움을 향상시킬 수 있는가?
• RQ2 대비 스무딩과 전역 MMD 정렬을 조합하면 특징의 구분력과 성능이 향상되는가?
• RQ3 표준 UDA 벤치마크에서 CoSCA는 MCD 및 DAS와 같은 최신 기준 방법보다 어떻게 성능을 내는가?
• RQ4 대비 정렬과 MMD 손실의 기여도는 모델의 강건성과 수렴성 향상에 어떤 영향을 미치는가?
• RQ5 제안된 방법은 비매끄러운 다양체에 위치한 모호한 타겟 샘플의 잘못된 분류를 완화할 수 있는가?

주요 결과

• Amazon Reviews 데이터셋에서 CoSCA는 83.17%의 테스트 정확도를 기록하여 이전 최신 기준 방법인 DAS(81.96%)를 1.21%p 뛰어넘었다.
• MNIST → SVHN 벤치마크에서 CoSCA는 80.7%의 정확도를 달성하여 MCD보다 11.9%p, MCD+Contras보다 4.8%p 높았다.
• 제거 실험 결과, MCD에 대비 손실을 추가하면 MNIST → SVHN에서 성능이 7.2%p 향상되어 경계의 매끄러움 향상에 효과적임을 입증했다.
• MMD 손실은 전역 정렬에 기여하여 MNIST → SVHN에서 MCD 성능을 3.4%p 향상시켰지만, 도메인 이탈이 적은 다른 데이터셋에선 성능 향상 폭이 더 작았다.
• 검증 정확도 곡선을 통해 CoSCA는 기준 모델보다 더 안정적이고 일관된 수렴을 보이며 훈련 안정성이 뛰어나다는 점이 확인되었다.
• 대비 스무딩과 MMD의 조합은 모든 평가된 벤치마크에서 성능 향상으로 이어지며 더 구분력 있는 특징을 생성함을 확인했다.