[논문 리뷰] Transfer Learning with Dynamic Adversarial Adaptation Network

Chaohui Yu, Jindong Wang외 2명|arXiv (Cornell University)|2019. 09. 18.

Domain Adaptation and Few-Shot Learning참고 문헌 44인용 수 31

한 줄 요약

이 논문은 동적으로 및 정량적으로 적응 학습 중에 전반적(마진널) 및 국소적(조건부) 도메인 분포의 상대적 중요도를 평가할 수 있는 새로운 도메인 적응 방법인 동적 적대적 적응 네트워크(DAAN)를 제안한다. 학습 가능한 동적 적대적 인자 ω를 도입함으로써 DAAN은 Office-Home와 같은 표준 벤치마크에서 최신 기술 수준의 성능을 달성하며, DANN 및 JAN과 비교해 61.8%의 정확도를 기록한다.

ABSTRACT

The recent advances in deep transfer learning reveal that adversarial learning can be embedded into deep networks to learn more transferable features to reduce the distribution discrepancy between two domains. Existing adversarial domain adaptation methods either learn a single domain discriminator to align the global source and target distributions or pay attention to align subdomains based on multiple discriminators. However, in real applications, the marginal (global) and conditional (local) distributions between domains are often contributing differently to the adaptation. There is currently no method to dynamically and quantitatively evaluate the relative importance of these two distributions for adversarial learning. In this paper, we propose a novel Dynamic Adversarial Adaptation Network (DAAN) to dynamically learn domain-invariant representations while quantitatively evaluate the relative importance of global and local domain distributions. To the best of our knowledge, DAAN is the first attempt to perform dynamic adversarial distribution adaptation for deep adversarial learning. DAAN is extremely easy to implement and train in real applications. We theoretically analyze the effectiveness of DAAN, and it can also be explained in an attention strategy. Extensive experiments demonstrate that DAAN achieves better classification accuracy compared to state-of-the-art deep and adversarial methods. Results also imply the necessity and effectiveness of the dynamic distribution adaptation in adversarial transfer learning.

연구 동기 및 목표

• 기존의 적대적 도메인 적응 방법이 마진널 및 조건부 분포에 대해 고정되거나 정적 중요도를 부여하는 데에 한계가 있음을 해결하기 위해.
• 적대적 학습 중에 전역 및 국소 도메인 불일치의 상대 기여도를 동적으로 및 정량적으로 평가할 수 있는 방법을 개발하기 위해.
• 실세계 도메인 적응 시나리오에서 일반화 능력과 강건성을 향상시킬 수 있는 도메인 불변 특징의 엔드 투 엔드 학습을 가능하게 하기 위해.
• 표준 딥 러닝 라이브러리와 호환되며, 표준 적대적 학습 외에 추가 하이퍼파rameter가 필요 없는 계산적으로 효율적이고 쉽게 구현 가능한 프레임워크를 제공하기 위해.

제안 방법

• 적대적 학습 중에 마진널 및 조건부 도메인 분포의 기여도를 동적으로 균형 잡는 데 사용되는 동적 적대적 인자 ω를 도입한다.
• 전역 및 국소 분포에 대한 도메인 식별자 손실의 가중 조합으로서 적대적 손실을 수식화하며, ω는 역전파를 통해 엔드 투 엔드로 학습된다.
• 특징 추출기, 분류기, 그리고 동적 인자 ω를 동시에 최적화하기 위해 확률적 경사 하강법(SGD)을 사용한다.
• 동적 인자를 전역 및 국소 도메인 간의 상대적 산란도에 따라 조정되는 미분 가능하고 학습 가능한 파라미터로 구현한다.
• 표준 딥 러닝 프레임워크와 호환되며, 표준 적대적 학습 외에 추가 하이퍼파rameter가 필요 없다.
• 동적 인자 ω는 학습 도중 전역 대비 국소 분포 정렬의 현재 중요도를 반영하도록 업데이트되어, 적응형 도메인 적응을 가능하게 한다.

실험 결과

연구 질문

• RQ1 딥 네ural 네트워크는 적대적 적응 중에 마진널 및 조건부 도메인 분포의 상대적 중요도를 동적으로 및 정량적으로 평가할 수 있는가?
• RQ2 전역 및 국소 도메인 불일치를 동적으로 균형 잡는 것이 고정되거나 동일 가중치 방식보다 더 나은 일반화 및 높은 분류 정확도를 달성하는가?
• RQ3 제안된 방법은 계산 효율성과 구현 용이성을 유지하면서 최신 기술 수준의 성능을 달성할 수 있는가?
• RQ4 알 수 없는 타겟 도메인에서 전역 대비 국소 분포의 기여도가 사전에 알려져 있지 않은 상황에서도 동적 적대적 인자 ω가 효과적으로 적응할 수 있는가?

주요 결과

• DAAN은 Office-Home 데이터셋에서 61.8%의 정확도를 기록하여, DANN(57.6%) 및 JAN(58.3%)을 상당한 격차로 앞서며 성능을 뛰어넘었다.
• 제거 실험을 통해 동일 가중치(JAN, ω=0.5) 또는 고정 가중치(DANN, ω=0; MADA, ω=1)는 최적화되지 않음을 확인하여, 동적 적응의 필요성을 입증했다.
• t-SNE를 활용한 특징 시각화 결과, DAAN은 JAN에 비해 소스 및 타겟 도메인 간에 더 잘 정렬되고 더 구분력 있는 표현을 학습하는 것으로 나타났다.
• 동적 인자 ω는 20 에포크 내에 안정적으로 수렴하여 빠르고 신뢰할 수 있는 학습 행동을 보였다.
• MEDA보다 DAAN이 더 빨리 수렴하고 안정적인 ω 값을 더 빨리 도달함으로써 향상된 학습 효율성을 보였다.
• 이론적 및 실증적 결과는 적대적 도메인 적응에서 분포 중요도의 동적 평가가 필수적이고 효과적이라는 것을 확인했다.