[논문 리뷰] Domain2Vec: Deep Domain Generalization

Aniket Anand Deshmukh, Ankit Bansal외 1명|arXiv (Cornell University)|2018. 07. 09.

Domain Adaptation and Few-Shot Learning참고 문헌 17인용 수 4

한 줄 요약

Domain2Vec (D2V)는 데이터 분포의 통계적 특징을 모델링하여 도메인 특화 임베딩을 학습하는 딥 뉴럴 네트워크 아키텍처를 제안하며, 이들 임베딩을 입력 특징과 결합하여 제로샷 도메인 일반화 성능을 향상시킨다. VLCS와 같은 이미지 분류 벤치마크에서 최신 기법들을 능가하며, 한 도메인을 제외한 평가에서 평균 정확도 70.82%를 기록했다.

ABSTRACT

We address the problem of domain generalization where a decision function is learned from the data of several related domains, and the goal is to apply it on an unseen domain successfully. It is assumed that there is plenty of labeled data available in source domains (also called as training domain), but no labeled data is available for the unseen domain (also called a target domain or test domain). We propose a novel neural network architecture, Domain2Vec (D2V) that learns domain-specific embedding and then uses this embedding to generalize the learning across related domains. The proposed algorithm, D2V extends the idea of distribution regression and kernelized domain generalization to the neural networks setting. We propose a neural network architecture to learn domain-specific embedding and then use this embedding along with the data point specific features to label it. We show the effectiveness of the architecture by accurately estimating domain to domain similarity. We evaluate our algorithm against standard domain generalization datasets for image classification and outperform other state of the art algorithms.

연구 동기 및 목표

• 학습 데이터 없이도 미리보지 않은 도메인의 데이터를 분류할 수 있어야 하는 도메인 일반화 문제에 대응한다.
• 다양한 소스 도메인 간의 분포적 차이를 잘 반영하는 강건한 도메인 특화 표현을 학습한다.
• 통합된 신경망 아키텍처 프레임워크 내에서 데이터 포인트 특징과 학습된 도메인 임베딩을 결합하여 일반화 성능을 향상시킨다.
• 학습된 도메인 임베딩이 진정한 도메인 유사도를 정확히 반영함으로써, 미지의 도메인으로의 전이 성능을 향상시킬 수 있음을 입증한다.
• 분포 회귀 및 커널 기반 도메인 일반화 아이디어를 엔드 투 엔드 훈련이 가능한 딥 뉴럴 네트워크 환경으로 확장한다.

제안 방법

• 주요 네트워크는 근사된 데이터 분포에서 도메인 특화 임베딩을 학습하고, 작업 네트워크는 각 도메인의 분류기 가중치를 학습하는 이중 스트림 신경망 아키텍처를 제안한다.
• 입력 데이터 분포의 통계적 모멘트 또는 경험적 특성 함수를 도메인 임베딩으로 사용하며, 이를 입력 특징과 연결한다.
• 모델을 엔드 투 엔드로 훈련하여 확장된 특징 공간 $\mathcal{X} \times \mathcal{P}_{\mathcal{X}}$ 상에서 기대 분류 손실을 최소화한다. 여기서 $\mathcal{P}_{\mathcal{X}}$는 각 도메인의 경험적 분포를 나타낸다.
• 주요 네트워크와 작업 네트워크 간의 공유 표현을 활용하여 도메인 간 지식 전이를 가능하게 하고 일반화 성능을 향상시킨다.
• 학습된 임베딩에 대해 RBF 커널을 사용하여 도메인 유사도를 추정한다: $\exp(-\|d_p - d_q\|^2 / \sigma^2)$, 이는 시뮬레이션 실험에서 진짜 각도 유사도와 상관관계를 보였다.
• 학습률, 은닉 유닛 수, 가중치 감쇠 등의 하이퍼파라미터를 랜덤 서치를 통해 최적화한다.

실험 결과

연구 질문

• RQ1 딥 뉴럴 네트워크는 다수의 소스 도메인 간 분포적 차이를 반영하는 의미 있는 도메인 특화 임베딩을 학습할 수 있는가?
• RQ2 학습된 도메인 임베딩을 입력 특징과 조합하면, 미리보지 않은 타겟 도메인으로의 제로샷 일반화 성능이 향상되는가?
• RQ3 학습된 도메인 임베딩은 진짜 도메인 유사도와 얼마나 잘 일치하는가? 분포적 차이의 기준값과 비교하여 평가한다.
• RQ4 제안된 아키텍처는 도메인 일반화 벤치마크에서 기존 최신 기법들을 능가하는가?
• RQ5 학습 도메인 수와 도메인당 예제 수의 변동에 대해 모델은 얼마나 강인한가?

주요 결과

• 2차원 시뮬레이션 데이터셋에서 Domain2Vec는 도메인 임베딩을 학습함으로써 풀링 기반 신경망의 73%에서부터 96%로 분류 정확도를 향상시켰다.
• 히트맵 비교를 통해 학습된 도메인 임베딩이 진짜 도메인 유사도(회전 각도 기반)와 강한 상관관계를 보였다.
• VLCS 벤치마크에서 한 도메인을 제외한 평가를 통해 Domain2Vec는 평균 정확도 70.82%를 기록했으며, L-SVM(59.63%), 1 HNN(65.46%), D-MTAE(69.65%)를 모두 능가했다.
• 더 많은 학습 도메인과 더 많은 도메인당 예제가 제공될수록 성능이 향상되어 확장성과 데이터 효율성을 입증했다.
• VOC2007, LabelMe, SUN09에서 훈련한 모델은 Caltech-101 타겟 도메인에서 92.50%의 정확도를 기록했으며, 이는 이전 최고 성능 기법(D-MTAE, 92.43%)을 초월한 결과였다.
• VLCS의 네 개 타겟 도메인 전반에 걸쳐 일관된 성능 향상을 보였으며, 특히 SUN09 타겟에서 가장 높은 향상을 기록했다(62.02% vs. D-MTAE의 61.85%).