[논문 리뷰] Improving Adversarial Discriminative Domain Adaptation.

Aaron Chadha, Yiannis Andreopoulos|arXiv (Cornell University)|2018. 09. 10.

Domain Adaptation and Few-Shot Learning참고 문헌 16인용 수 8

한 줄 요약

이 논문은 ADDA를 개선하기 위해 연장된 판별자 출력을 통해 도메인과 작업의 공동 분포를 모델링하고, MMD 및 재구성 손실을 통합하여 타겟 특징을 소스 분포와 정렬함으로써, 이미지 및 뉴로모르픽 비전 데이터셋에서 상태기반 기법을 초월하는 성능을 향상시키는 새로운 적대적 도메인 적응 프레임워크를 제안한다.

ABSTRACT

Adversarial discriminative domain adaptation (ADDA) is an efficient framework for unsupervised domain adaptation in image classification, where the source and target domains are assumed to have the same classes, but no labels are available for the target domain. We investigate whether we can improve performance of ADDA with a new framework and new loss formulations. Following the framework of semi-supervised GANs, we first extend the discriminator output over the source classes, in order to model the joint distribution over domain and task. We thus leverage on the distribution over the source encoder posteriors (which is fixed during adversarial training) and propose maximum mean discrepancy (MMD) and reconstruction-based loss functions for aligning the target encoder distribution to the source domain. We compare and provide a comprehensive analysis of how our framework and loss formulations extend over simple multi-class extensions of ADDA and other discriminative variants of semi-supervised GANs. In addition, we introduce various forms of regularization for stabilizing training, including treating the discriminator as a denoising autoencoder and regularizing the target encoder with source examples to reduce overfitting under a contraction mapping (i.e., when the target per-class distributions are contracting during alignment with the source). Finally, we validate our framework on standard domain adaptation datasets, such as SVHN and MNIST. We also examine how our framework benefits recognition problems based on modalities that lack training data, by introducing and evaluating on a neuromorphic vision sensing (NVS) sign language recognition dataset, where the source and target domains constitute emulated and real neuromorphic spike events respectively. Our results on all datasets show that our proposal competes or outperforms the state-of-the-art in unsupervised domain adaptation.

연구 동기 및 목표

• 타겟 도메인 레이블이 가용하지 않은 비지도 도메인 적응 환경에서 적대적 분류 기반 도메인 적응(ADDA)의 성능을 향상시키는 것.
• 소스 클래스에 대한 출력을 제공하는 확장된 판별자를 통해 도메인과 분류 작업의 공동 분포를 모델링하는 것.
• 최대 평균 차이(MMD) 및 재구성 기반 손실을 사용하여 타겟 인코더의 특징 분포를 소스 도메인과 정렬하는 것.
• 노이즈 제거 오토인코더 학습 및 타겟 인코더의 수축 사상 정규화를 포함한 정규화 기법을 통해 학습을 안정화하는 것.
• SVHN 및 MNIST와 같은 표준 벤치마크와 새로운 뉴로모르픽 비전 센싱(NVS) 시그니처 언어 인식 데이터셋을 포함한 프레임워크 평가

제안 방법

• ADDA의 판별자를 소스 클래스에 대한 출력을 가능하게 하여 확장함으로써 도메인과 분류 작업의 공동 모델링을 가능하게 한다.
• 고정된 소스 인코더 사후확률을 활용하여 MMD 및 재구성 기반 손실을 통해 타겟 인코더의 정렬을 이끈다.
• 판별자의 강건성과 학습 안정성을 향상시키기 위해 노이즈 제거 오토인코더 목표를 적용한다.
• 소스 예제를 사용하여 타겟 인코더에 수축 사상 정규화를 구현함으로써 분포 정렬 중 과적합을 줄인다.
• 적대적 학습 중 도메인 및 클래스 분류를 동시에 최적화하기 위해 다중 헤드 판별자를 도입한다.
• 타겟 인코더가 소스 예제를 재구성하도록 유도하는 재구성 손실을 활용하여 도메인 간 특징 분포를 정렬한다.

실험 결과

연구 질문

• RQ1 판별자를 도메인과 클래스 레이블을 모두 모델링할 수 있도록 확장하는 것이 도메인 적응 성능 향상에 기여하는가?
• RQ2 MMD 및 재구성 기반 손실은 표준 다중 클래스 확장 기반 ADDA의 손실과 비교해 볼 때 소스 및 타겟 도메인 특징의 정렬에 얼마나 효과적인가?
• RQ3 판별자에 대한 노이즈 제거 오토인코더 학습이 모델 안정성과 성능에 어떤 영향을 미치는가?
• RQ4 수축 사상 정규화는 도메인 정렬 중 타겟 인코더의 과적합을 줄이는 데 효과적인가?
• RQ5 제안된 프레임워크는 뉴로모르픽 비전 센싱과 같은 저자원 인식 작업에 일반화 가능한가?

주요 결과

• 제안된 프레임워크는 SVHN 및 MNIST를 포함한 표준 도메인 적응 벤치마크에서 최신 기술 수준 또는 경쟁 가능한 성능을 달성한다.
• MMD 및 재구성 손실의 사용은 단순한 다중 클래스 확장 기반 ADDA와 비교해 타겟 특징을 소스 도메인과 더 잘 정렬함을 보여준다.
• 판별자에 대한 노이즈 제거 오토인코더 학습은 일반화 성능 향상과 함께 학습 불안정성 감소에 기여한다.
• 수축 사상 정규화는 특히 타겟 도메인 데이터가 제한된 경우 타겟 인코더의 과적합을 효과적으로 줄인다.
• 프레임워크는 저자원 모odalities로의 일반화 능력이 뛰어나, 타겟 모달리티에 실제 학습 데이터가 없는 뉴로모르픽 비전 센싱(NVS) 시그니처 언어 인식 데이터셋에서도 뛰어난 성능을 기록한다.
• 실증 결과는 다수의 평가 지표에서 일관된 향상을 보이며, 공동 도메인-작업 모델링 및 손실 설계의 효과성을 확인한다.