[논문 리뷰] Domain-Adversarial Training of Neural Networks

Yaroslav Ganin, Evgeniya Ustinova외 6명|arXiv (Cornell University)|2015. 05. 28.

Autopsy Techniques and Outcomes인용 수 75

한 줄 요약

이 논문은 도메인 적대 신경망(DANN)을 제안하며, 도메인 분류기를 소스 도메인과 타겟 도메인을 구별하도록 적대적으로 훈련시키면서 특징 추출기가 이를 속이도록 최적화함으로써 도메인 불변 특징을 학습하는 비지도 도메인 적응 방법을 제시한다. 이 방법은 도메인 불변 특징을 학습하기 위해 경사 반전층을 사용하며, 라벨이 부여된 소스 데이터와 라벨이 없는 타겟 데이터만을 사용하여 이미지 분류, 감성 분석, 인물 재식별 벤치마크에서 최고 성능을 달성한다. 아키텍처 수정이 최소화된 상태에서 표준 역전파 알고리즘을 활용한다.

ABSTRACT

We introduce a new representation learning approach for domain adaptation, in which data at training and test time come from similar but different distributions. Our approach is directly inspired by the theory on domain adaptation suggesting that, for effective domain transfer to be achieved, predictions must be made based on features that cannot discriminate between the training (source) and test (target) domains. The approach implements this idea in the context of neural network architectures that are trained on labeled data from the source domain and unlabeled data from the target domain (no labeled target-domain data is necessary). As the training progresses, the approach promotes the emergence of features that are (i) discriminative for the main learning task on the source domain and (ii) indiscriminate with respect to the shift between the domains. We show that this adaptation behaviour can be achieved in almost any feed-forward model by augmenting it with few standard layers and a new gradient reversal layer. The resulting augmented architecture can be trained using standard backpropagation and stochastic gradient descent, and can thus be implemented with little effort using any of the deep learning packages. We demonstrate the success of our approach for two distinct classification problems (document sentiment analysis and image classification), where state-of-the-art domain adaptation performance on standard benchmarks is achieved. We also validate the approach for descriptor learning task in the context of person re-identification application.

연구 동기 및 목표

• 학습 데이터와 테스트 데이터가 서로 다른데 관련된 분포에서 오는 도메인 편향 문제를 해결하기 위해.
• 라벨이 부여된 타겟 데이터가 필요 없이 라벨이 부여된 소스 데이터로 훈련된 모델을 라벨이 없는 타겟 도메인으로 효과적으로 전이할 수 있도록 하기 위해.
• 주 작업에 대해 분류 능력이 뛰어나고 도메인 편향에 대해 불변인 깊이 있는 표현을 학습하기 위해.
• 표준 역전파 알고리즘을 사용하여 도메인 적응을 깊이 있는 특징 학습 과정에 직접 통합하기 위해.
• 이 방법이 이미지 분류, 감성 분석, 인물 재식별을 포함한 다양한 작업에서 효과적임을 보여주기 위해.

제안 방법

• 표준 전방향 신경망에 도메인 분류기 헤드와 경사 반전층을 추가하여 도메인 불변성을 강제한다.
• 경사 반전층은 역전파 동안 기울기 흐름을 뒤집어, 특징 추출기가 도메인 분류기 손실을 최소화하면서도 이를 최대화하도록 한다.
• 라벨 예측기와 도메인 분류기를 함께 최적화하는 표준 확률적 경사 하강법을 사용하여 네트워크를 종합적으로 훈련한다.
• 공동 훈련 목표를 사용한다: 소스 라벨에 대한 분류 손실을 최소화하면서 도메인 분류 손실을 최대화하여 도메인 불변 특징를 유도한다.
• 공유된 특징 추출기 뒤에 경사 반전층을 삽입하여 다양한 아키텍처에 적용 가능하게 하며, 표준 역전파 기반 딥 러닝 프레임워크와의 호환성을 확보한다.
• 기본 이탈 손실을 기초로 한 기술자 특징 학습과 로지스틱 손실을 도메인 분류에 사용하며, 각 작업에 맞게 초모수를 조정한다.

실험 결과

연구 질문

• RQ1 딥 신경망은 클래스 레이블을 예측할 수 있고 도메인 편향에 대해 불변인 특징를 학습시킬 수 있는가?
• RQ2 라벨이 부여된 소스 데이터와 라벨이 없는 타겟 데이터만을 사용하여 도메인 불변 표현을 학습시킬 수 있는가?
• RQ3 경사 반전층을 사용한 적대적 훈련이 이미지 분류 및 감성 분석에서 도메인 편향에 대한 일반화를 향상시키는가?
• RQ4 제안된 방법은 분류를 넘어서 인물 재식별에서의 기술자 특징 학습과 같은 다른 전방향 작업에 적용될 수 있는가?
• RQ5 기존의 도메인 적응 기법과 비교했을 때 이 도메인 적대적 접근은 표준 벤치마크에서 얼마나 효과적인가?

주요 결과

• 도메인 적대 훈련은 이미지 분류 및 감성 분석의 표준 벤치마크에서 최고 성능을 기록하며 이전 방법들을 능가했다.
• 이 방법은 8개의 데이터 세트 쌍에 걸쳐 인물 재식별 성능을 일관되게 향상시켰으며, PRID와 VIPeR처럼 더 이질적인 쌍에서 두드러진 성과를 보였다.
• VIPeR → CUHK/p1 재식별 작업에서 도메인 적대 훈련은 t-SNE 시각화에서 소스 도메인과 타겟 도메인의 기술자 특징가 더 잘 혼합됨을 보였다.
• 데이터 세트의 복잡성에 따라 50,000 또는 20,000회의 훈련 반복만으로도 강력한 수렴 성능를 보였으며, 효율적인 수렴을 입증했다.
• 경사 반전층은 아키텍처 재설계 없이 도메인 적대자에 대한 효과적인 역전파를 가능하게 하여 이 방법이 광범위하게 적용 가능하도록 했다.
• 이 방법은 분류를 넘어서도 잘 작동했으며, 기술자 특징 학습에 기초 이탈 손실을 사용하고 CMC 곡선을 향상시켜 성공적으로 적용되었다.