[논문 리뷰] A DIRT-T Approach to Unsupervised Domain Adaptation

Rui Shu, Hung Bui외 2명|arXiv (Cornell University)|2018. 02. 23.

Domain Adaptation and Few-Shot Learning참고 문헌 36인용 수 293

한 줄 요약

이 논문은 군집 가정(cluster assumed)을 활용한 비지도 도메인 적응에 두 모델 VADA와 DIRT-T를 도입하여 여러 시각적 및 비시각적 벤치마크에서 최첨단 성과를 달성합니다.

ABSTRACT

Domain adaptation refers to the problem of leveraging labeled data in a source domain to learn an accurate model in a target domain where labels are scarce or unavailable. A recent approach for finding a common representation of the two domains is via domain adversarial training (Ganin & Lempitsky, 2015), which attempts to induce a feature extractor that matches the source and target feature distributions in some feature space. However, domain adversarial training faces two critical limitations: 1) if the feature extraction function has high-capacity, then feature distribution matching is a weak constraint, 2) in non-conservative domain adaptation (where no single classifier can perform well in both the source and target domains), training the model to do well on the source domain hurts performance on the target domain. In this paper, we address these issues through the lens of the cluster assumption, i.e., decision boundaries should not cross high-density data regions. We propose two novel and related models: 1) the Virtual Adversarial Domain Adaptation (VADA) model, which combines domain adversarial training with a penalty term that punishes the violation the cluster assumption; 2) the Decision-boundary Iterative Refinement Training with a Teacher (DIRT-T) model, which takes the VADA model as initialization and employs natural gradient steps to further minimize the cluster assumption violation. Extensive empirical results demonstrate that the combination of these two models significantly improve the state-of-the-art performance on the digit, traffic sign, and Wi-Fi recognition domain adaptation benchmarks.

연구 동기 및 목표

• 대상 라벨이 이용 가능하지 않을 때 공변량 shift를 다루고 단일 분류기가 소스 및 대상 도메인 모두에 일반화되지 않을 수 있습니다.
• 도메인 적응에 군집-가정 기반 제약을 도입하여 도메인 적대 학습을 넘어 가설 공간을 더 촘촘하게 만들고 제약을 강화합니다.
• 타깃 도메인 군집 위반을 추가로 최소화하는 정제 절차(DIRT-T)를 개발합니다.
• 숫자, 교통 표지, 일반 객체, Wi-Fi 활동 인식 등 다양한 작업에서 실험적 이득을 보여줍니다.

제안 방법

• 도메인 적대 학습과 군집-가정 위반에 대한 페널티 및 타깃 데이터의 조건부 엔트로피 손실을 결합한 Virtual Adversarial Domain Adaptation(VADA)를 제안합니다.
• Virtual Adversarial Training(VAT)을 통해 로컬- Lipschitz 제약을 도입하여 엔트로피 최소화를 안정화합니다.
• VADA로 시작한 뒤 Decision-boundary Iterative Refinement Training(DIRT-T)을 수행하여 자연 그레이디언트 스텝으로 타깃 도메인 군집 위반을 더 감소시킵니다.
• DIRT-T는 이전 모델이 교사를 맡아 업데이트를 제약하는 교사-학생 프레임워크를 사용하여 타깃 측의 군집 위반을 감소시키면서 학습합니다.
• DIRT-T를 순차적 비보수적 도메인 적응의 해석으로 설명하며, 타깃 도메인에서 순수하게 정제할 때 도메인 적대 학습이 필요 없게 됩니다.

실험 결과

연구 질문

• RQ1 조건부 엔트로피 최소화를 통해 군집 가정을 강제하는 것이 도메인 적대 학습을 넘어 도메인 적응을 개선합니까?
• RQ2 초기 VADA 모델 이후 타깃 도메인 군집 위반을 최소화하는 정제 절차가 성능을 더 향상시킬 수 있습니까?
• RQ3 VAT와 로컬- Lipschitz 제약이 도메인 적응에서 엔트리 기반 클러스터링의 안정성과 효과에 어떤 영향을 줍니까?
• RQ4 다양한 도메인 적응 벤치마크(숫자, 교통 표지, CIFAR/STL-10, Wi-Fi)에서 VADA와 DIRT-T의 실험적 이득은 무엇입니까?

주요 결과

• VADA는 군집-가정 페널티와 VAT를 도입하여 이전의 도메인-적대 방법들보다 성능을 향상시키고 여러 벤치마크에서 강력한 개선을 보여줍니다.
• DIRT-T는 타깃 도메인 군집 위반을 추가로 감소시켜 VADA를 지속적으로 강화하고 대부분의 작업에서 최첨단 성과를 달성합니다.
• DIRT-T는 MNIST에서 SVHN으로의 도전적 적응에서 ATT를 여러 설정에서 상당한 격차로 능가합니다.
• DIRT-T의 자연 그레이디언트 스텝은 의사 결정 경계의 안정적이고 효과적인 정제를 촉진합니다.
• Wi-Fi 활동 인식에서 VADA는 Source-Only와 DANN을 크게 능가합니다; 타깃 클러스터링이 이미 강한 경우 DIRT-T가 항상 이득을 주지는 않을 수 있습니다.