[논문 리뷰] Towards Stable and Comprehensive Domain Alignment: Max-Margin Domain-Adversarial Training

Jianfei Yang, Han Zou외 2명|arXiv (Cornell University)|2020. 03. 30.

Domain Adaptation and Few-Shot Learning참고 문헌 36인용 수 9

한 줄 요약

이 논문은 최대 마진 도메인 적대적 훈련(MDAT)을 제안하며, 기존의 도메인 분류기 대신 재구성 네트워크(ARN)를 도입하여 적대적 훈련의 안정성을 높이고 특징 수준 및 픽셀 수준의 도메인 정합을 동시에 가능하게 하는 새로운 도메인 적응 방법이다. MDAT는 시각적 및 비시각적 벤치마크에서 최고 성능을 기록하며 훈련 안정성과 하이퍼파rameter 설정에 대한 민감도가 낮아, 우수한 복제 가능성과 실용적 구현 가능성을 확보한다.

ABSTRACT

Domain adaptation tackles the problem of transferring knowledge from a label-rich source domain to a label-scarce or even unlabeled target domain. Recently domain-adversarial training (DAT) has shown promising capacity to learn a domain-invariant feature space by reversing the gradient propagation of a domain classifier. However, DAT is still vulnerable in several aspects including (1) training instability due to the overwhelming discriminative ability of the domain classifier in adversarial training, (2) restrictive feature-level alignment, and (3) lack of interpretability or systematic explanation of the learned feature space. In this paper, we propose a novel Max-margin Domain-Adversarial Training (MDAT) by designing an Adversarial Reconstruction Network (ARN). The proposed MDAT stabilizes the gradient reversing in ARN by replacing the domain classifier with a reconstruction network, and in this manner ARN conducts both feature-level and pixel-level domain alignment without involving extra network structures. Furthermore, ARN demonstrates strong robustness to a wide range of hyper-parameters settings, greatly alleviating the task of model selection. Extensive empirical results validate that our approach outperforms other state-of-the-art domain alignment methods. Moreover, reconstructing adapted features reveals the domain-invariant feature space which conforms with our intuition.

연구 동기 및 목표

• 높은 용량의 도메인 분류기가 적대적 기울기 반전을 초월하여 적대적 훈련의 훈련 불안정성을 유발하는 문제를 해결하기 위해.
• 추가 네트워크 구성 요소 없이 특징 수준 및 픽셀 수준의 도메인 정합을 동시에 가능하게 하기 위해.
• 적응된 특징을 재구성함으로써 학습된 도메인 불변 특징의 해석 가능성 향상을 위해.
• 하이퍼파rameter 조정에 대한 민감도를 낮추어 복제 가능성과 실용적 구현 가능성을 향상시키기 위해.

제안 방법

• DAT의 도메인 분류기 대신 재구성 네트워크(디코더)를 사용하는 적대적 재구성 네트워크(ARN)를 제안하여 도메인 적대적 훈련을 수행한다.
• 재구성 네트워크에 최대 마진 손실을 사용하여 도메인 분류기의 분류 능력을 제한함으로써 적대적 훈련 과정의 안정성을 확보한다.
• 공유된 특징 추출기와 레이블 예측기 사용하며, 재구성 네트워크는 소스 도메인 특징을 재구성하면서 타겟 도메인 특징은 마진을 초월하도록 유도한다.
• 특징 추출기가 타겟 도메인 특징을 재구성 가능한 소스 유사 특징으로 만들 수 있도록 함으로써, 전체 네트워크를 엔드 투 엔드로 최적화한다.
• 재구성 능력을 활용하여 도메인 불변 특징이 어떻게 형성되는지 시각화하고 해석함으로써 정합 메커니즘에 대한 통찰을 제공한다.
• 도메인 혼동의 정도를 제어하는 마진 하이퍼파rameter m을 도입하며, m ≥ 1 조건을 만족하면 디코더가 도메인 분류기로 기능하게 된다.

실험 결과

연구 질문

• RQ1 DAT의 도메인 분류기를 재구성 네트워크로 대체함으로써 훈련 안정성과 기울기 효율성이 향상되는가?
• RQ2 추가 아키텍처 확장 없이도 단일 네트워크 아키텍처로 특징 수준 및 픽셀 수준의 도메인 정합을 동시에 달성할 수 있는가?
• RQ3 적응된 특징의 재구성이 도메인 불변 표현의 구조에 대한 해석 가능한 통찰을 제공하는가?
• RQ4 기존 DAT에 비해 제안된 방법의 하이퍼파rameter 설정에 대한 민감도는 어떠한가?
• RQ5 매우 큰 도메인 이동이 존재하는 벤치마크에서 제안된 방법이 최고 성능을 기록하는가?

주요 결과

• MDAT는 SVHN → MNIST 벤치마크에서 96.0%의 정확도를 기록하며, DANN(74.7%) 및 기타 SOTA 방법을 크게 앞서간다.
• ARN 모델은 α ∈ [0.01, 1.0] 및 m ≥ 1 범위의 넓은 하이퍼파ram터 설정에서도 안정적인 훈련과 수렴을 유지하지만, DANN은 α > 0.2일 경우 수렴하지 못함을 확인하였다.
• 재구성된 타겟 이미지가 소스 도메인 이미지와 유사하게 나타나, MDAT가 암묵적인 특징 간 번역을 통해 도메인 불변 특징을 학습하고 있음을 시각적으로 확인하였다.
• T-SNE 시각화 결과, ARN(MDAT)는 DANN보다 더 명확한 결정 경계와 더 나은 도메인 정합을 달성하였으며, 두 도메인의 특징이 클래스별로 잘 분리되고 도메인 간 정합도 높게 나타났다.
• 최대 마진 손실은 재구성 네트워크의 분류 능력을 효과적으로 감소시켜 적대적 게임의 균형을 유지하고 특징 학습을 위한 더 효과적인 기울기 흐름을 가능하게 하였다.
• 광범위한 아블레이션 실험을 통해 재구성 네트워크 자체만으로도 추가 구성 요소 없이 종합적인 도메인 정합이 가능하며, 이는 시각적 및 비시각적 작업 전반에 걸쳐 잘 일반화됨을 확인하였다.