[논문 리뷰] Multiple Source Domain Adaptation with Adversarial Training of Neural Networks

Han Zhao, Shanghang Zhang외 4명|arXiv (Cornell University)|2017. 05. 26.

Domain Adaptation and Few-Shot Learning참고 문헌 35인용 수 31

한 줄 요약

이 논문은 다중 소스 도메인 적응을 위한 새로운 딥러닝 프레임워크인 다중원천 도메인 적대적 네트워크(MDANs)를 제안한다. 이 방법은 적대적 훈련을 통해 도메인 불변이면서 작업 구분 능력이 뛰어난 특징 표현을 학습한다. 기존 DANN 프레임워크를 다중 소스 도메인으로 일반화하여, 타겟 분포에 대한 전문 지식이 필요 없이 새로 유도된 일반화 경계를 최소화함으로써 감성 분석, 숫자 분류, 차량 수 세기 작업에서 최신 기술 수준(SOTA) 성능을 달성한다.

ABSTRACT

While domain adaptation has been actively researched in recent years, most theoretical results and algorithms focus on the single-source-single-target adaptation setting. Naive application of such algorithms on multiple source domain adaptation problem may lead to suboptimal solutions. As a step toward bridging the gap, we propose a new generalization bound for domain adaptation when there are multiple source domains with labeled instances and one target domain with unlabeled instances. Compared with existing bounds, the new bound does not require expert knowledge about the target distribution, nor the optimal combination rule for multisource domains. Interestingly, our theory also leads to an efficient learning strategy using adversarial neural networks: we show how to interpret it as learning feature representations that are invariant to the multiple domain shifts while still being discriminative for the learning task. To this end, we propose two models, both of which we call multisource domain adversarial networks (MDANs): the first model optimizes directly our bound, while the second model is a smoothed approximation of the first one, leading to a more data-efficient and task-adaptive model. The optimization tasks of both models are minimax saddle point problems that can be optimized by adversarial training. To demonstrate the effectiveness of MDANs, we conduct extensive experiments showing superior adaptation performance on three real-world datasets: sentiment analysis, digit classification, and vehicle counting.

연구 동기 및 목표

• 기존 도메인 적응 방법이 단일 소스-단일 타겟 설정에만 초점을 맞추다 보니, 다수의 소스 도메인이 존재할 경우 종종 최적의 성능을 내지 못하는 한계를 해결하기 위해.
• 타겟 도메인 분포에 대한 사전 지식이나 소스 도메인의 최적 조합 규칙이 필요 없는 다중 소스 도메인 적응을 위한 새로운 일반화 경계를 유도하기 위해.
• 유도된 일반화 경계를 최소화하는 효율적이고 데이터 효율적이며 작업 적응형 학습 전략을 적대적 신경망 기반으로 개발하기 위해.
• 다양한 작업, 즉 NLP, 비전, 회귀 등에서 실제 데이터셋을 대상으로 제안된 방법의 효과성을 입증하기 위해.

제안 방법

• 가설 공간 내에서 다수의 소스 도메인과 타겟 도메인 간의 일반화된 H-분산 측도를 제안하여 도메인 이탈을 정량화한다.
• 농도 불등식과 VC 이론을 사용해 타겟 위험에 대한 PAC 스타일의 일반화 경계를 도출하며, 이를 다수의 소스 도메인에서의 경험적 위험으로 경계한다.
• 두 가지 MDAN 모델을 설계한다: 하나는 유도된 일반화 경계를 직접 최적화하는 모델이며, 다른 하나는 데이터 효율성과 작업 적응성을 향상시키는 부드러운 근사 모델이다.
• 최소-최대 사다리꼴 최적화 프레임워크를 활용하여, 특징 추출기가 도메인 불변 표현을 학습하고, 도메인 구분기가 소스와 타겟 도메인을 구분하려는 시도를 한다.
• 딥 뉴럴 네트워크를 사용해 특징 추출, 도메인 분류, 작업별 학습을 하나의 엔드 투 엔드 훈련 프로세스로 통합한다.
• 적대적 훈련을 통해 다수의 소스 도메인 간에 학습된 특징의 불변성을 강제하면서도 주 작업에 대한 구분 능력을 유지한다.

실험 결과

연구 질문

• RQ1 타겟 분포에 대한 전문 지식이나 소스 도메인의 최적 조합 규칙이 필요 없이 다중 소스 도메인 적응을 위한 일반화 경계를 도출할 수 있는가?
• RQ2 적대적 훈련은 다수의 도메인 이탈에 대해 불변이면서도 주 작업에 대해 구분 능력이 뛰어난 특징 표현을 학습하는 데 어떻게 적응할 수 있는가?
• RQ3 제안된 MDAN 프레임워크는 다중 소스 환경에서 기존의 단일 소스 도메인 적응 방법보다 우수한 성능을 보일 수 있는가?
• RQ4 최소-최대 훈련 프레임워크에서 딥 뉴럴 네트워크를 사용해 일반화 경계를 효율적으로 근사하고 최적화할 수 있는가?
• RQ5 제안된 방법은 감성 분석, 숫자 인식, 시각적 수 세기와 같은 다양한 실제 작업에서 강건하고 효과적인가?

주요 결과

• 제안된 다중 소스 도메인 적응을 위한 일반화 경계는 이전의 단일 소스 경계를 일반화하며, 타겟 분포에 대한 가정이나 최적의 소스 조합에 대한 가정이 필요하지 않다.
• 특히 부드러운 변형 버전을 포함한 MDAN 프레임워크는 감성 분석, 숫자 분류, 시각적 차량 수 세기 작업에서 최신 기술 수준(SOTA) 도메인 적응 방법보다 뛰어난 성능을 달성한다.
• 실험 결과는 적절한 적응 없이 다수의 소스 도메인을 단순히 조합하면 성능이 악화될 수 있음을 확인하여, 이론적 통찰력인 '모든 소스 도메인이 동일하게 유용한 것은 아님'을 뒷받침한다.
• 적대적 훈련 과정은 다수의 소스 도메인 간에 불변인 특징 표현을 성공적으로 학습하면서도 주 작업에 대한 높은 구분 능력을 유지한다.
• 특히 낮은 데이터 환경에서 부드러운 근사가 적용된 두 번째 MDAN 모델 덕분에 데이터 효율성과 작업 적응성이 향상됨을 입증하였다.
• MDAN 모델들은 DANN 프레임워크를 다수의 소스로 일반화하며, 하나의 소스 도메인만 존재할 경우 DANN으로 축소되어 이론적 일관성을 확인한다.