[논문 리뷰] Adversarial Representation Learning for Domain Adaptation.

Jian Shen, Yanru Qu외 2명|arXiv (Cornell University)|2017. 07. 05.

Domain Adaptation and Few-Shot Learning참고 문헌 20인용 수 29

한 줄 요약

이 논문은 소스 도메인과 타겟 도메인 간의 경험적 워싱어스타인 거리(Wasserstein distance)를 추정하기 위해 도메인 크리틱을 활용하는 새로운 도메인 적응 방법인 워싱어스타인 거리 지도 표현 학습(WDGRL)을 제안한다. 이 방법은 이 거리를 적대적으로 최소화함으로써 도메인 불변이면서도 구분 능력이 뛰어난 표현을 학습한다. WDGRL은 워싱어스타인 거리의 기울기 안정성과 강력한 일반화 경계를 활용하여 감성 분류 및 이미지 분류 벤치마크에서 최신 기술(SOTA) 성능을 달성한다.

ABSTRACT

Domain adaptation aims at generalizing a high-performance learner on a target domain via utilizing the knowledge distilled from a source domain which has a different but related data distribution. One solution to domain adaptation is to learn domain invariant feature representations while the learned representations should also be discriminative in prediction. To learn such representations, domain adaptation frameworks usually include a domain invariant representation learning approach to measure and reduce the domain discrepancy, as well as a discriminator for classification. Inspired by Wasserstein GAN, in this paper we propose a novel approach to learn domain invariant feature representations, namely Wasserstein Distance Guided Representation Learning (WDGRL). WDGRL utilizes a neural network, denoted by the domain critic, to estimate empirical Wasserstein distance between the source and target samples and optimizes the feature extractor network to minimize the estimated Wasserstein distance in an adversarial manner. The theoretical advantages of Wasserstein distance for domain adaptation lie in its gradient property and promising generalization bound. Empirical studies on common sentiment and image classification adaptation datasets demonstrate that our proposed WDGRL outperforms the state-of-the-art domain invariant representation learning approaches.

연구 동기 및 목표

• 예측을 위한 구분 능력이 유지되는 도메인 불변 표현을 학습하여 기계 학습에서의 도메인 이동 문제를 해결하기 위해.
• 기존의 전통적 GAN 기반의 불일치 측정 방법보다 워싱어스타인 거리의 이론적 이점인 일반화 성능 향상을 통해 도메인 적응의 일반화 능력을 향상시키기 위해.
• 특징 추출과 도메인 불일치 감소를 동시에 최적화하는 견고한 적대적 프레임워크를 개발하기 위해.
• 기존 최신 기술(SOTA) 방법들과 비교하여 표준 도메인 적응 벤치마크에서 뛰어난 성능을 보여주기 위해.

제안 방법

• WDGRL은 소스 도메인과 타겟 도메인의 특징 분포 간 경험적 워싱어스타인 거리를 추정하기 위해 도메인 크리틱 네트워크를 도입한다.
• 특징 추출기는 추정된 워싱어스타인 거리를 최소화하도록 적대적으로 학습되어 도메인 불변성을 촉진한다.
• 예측을 위한 분류 헤드와 도메인 크리틱을 결합하여 구분 능력과 도메인 불변성을 동시에 최적화한다.
• 프레임워크는 워싱어스타인 GAN에서 영감을 얻었으며, 캄토로비치-루빈슈타인 이중성(Kantorovich-Rubinstein duality)을 사용하여 기울기 기반 최적화를 통해 안정적인 훈련을 가능하게 한다.
• 이론적 분석은 워싱어스타인 거리가 기존의 도메인 불일치 측정 방법보다 더 나은 기울기 흐름과 더 날카운 일반화 경계를 제공함을 보여준다.
• 모델는 도메인 혼동과 분류 정확도를 균형 잡는 최소-최대 목표를 사용하여 엔드 투 엔드로 훈련된다.

실험 결과

연구 질문

• RQ1 기존의 GAN 기반 접근 방식에 비해 워싱어스타인 거리가 도메인 적응에서 더 안정적이고 효과적인 도메인 불일치 추정을 제공할 수 있는가?
• RQ2 워싱어스타인 거리를 사용한 적대적 훈련이 하류 분류 작업에서 더 나은 일반화와 성능을 이끌어낼 수 있는가?
• RQ3 다양한 데이터셋에서 기존 최신 기술(SOTA) 도메인 적응 방법들과 비교해 WDGRL의 정확도와 견고성은 어떠한가?
• RQ4 워싱어스타인 거리의 기울기 특성이 특징 추출기의 훈련 역학과 수렴에 어떤 영향을 미치는가?

주요 결과

• WDGRL은 일반적인 감성 및 이미지 분류 도메인 적응 벤치마크에서 최신 기술(SOTA) 성능을 달성한다.
• 제안된 방법은 워싱어스타인 거리의 유리한 기울기 특성 덕분에 뛰어난 일반화 성능을 보여준다.
• 실증 결과는 여러 데이터셋에서 기존의 도메인 불변 표현 학습 방법들보다 일관된 성능 향상을 보여준다.
• 워싱어스타인 거리의 사용은 기존의 GAN 기반 도메인 불일치 최소화 방법에 비해 더 안정적인 훈련 역학을 이끌어낸다.
• 도메인 불일치 측정 지표로 측정했을 때, 도메인 이동을 효과적으로 줄이면서도 높은 예측 정확도를 유지한다.
• 이론적 분석은 WDGRL의 일반화 경계가 표준 도메인 적응 프레임워크보다 더 날카로움을 확인한다.