[논문 리뷰] Feature-Critic Networks for Heterogeneous Domain Generalization

Yiying Li, Yongxin Yang외 2명|arXiv (Cornell University)|2019. 01. 31.

Domain Adaptation and Few-Shot Learning참고 문헌 32인용 수 74

한 줄 요약

논문은 도메인 및 라벨 시프트에 강건한 범용 특성 추출기를 학습하기 위해 보조 손실을 메타-학습하는 Feature-Critic Networks를 제시하고, 이 네트워크는 이질적 및 동질 도메인 일반화 설정에서 평가됩니다. 이 접근법은 다양한 미지의 도메인과 범주에 대해 오프더쉘프 특성을 향상시키며, 여러 베이스라인보다 우수합니다.

ABSTRACT

The well known domain shift issue causes model performance to degrade when deployed to a new target domain with different statistics to training. Domain adaptation techniques alleviate this, but need some instances from the target domain to drive adaptation. Domain generalisation is the recently topical problem of learning a model that generalises to unseen domains out of the box, and various approaches aim to train a domain-invariant feature extractor, typically by adding some manually designed losses. In this work, we propose a learning to learn approach, where the auxiliary loss that helps generalisation is itself learned. Beyond conventional domain generalisation, we consider a more challenging setting of heterogeneous domain generalisation, where the unseen domains do not share label space with the seen ones, and the goal is to train a feature representation that is useful off-the-shelf for novel data and novel categories. Experimental evaluation demonstrates that our method outperforms state-of-the-art solutions in both settings.

연구 동기 및 목표

• 목표 및 동기를 다름 도메인에 대한 타깃 도메인(또는 라벨 공간)이 보이는 도메인과 다를 때의 도메인 시프트를 구체화합니다.
• 도메인 불변 표현으로의 특성 추출을 유도하는 학습-투-러닝 보조 손실을 제안합니다.
• 이질적 DG로 확장하여 타깃 도메인의 라벨 공간이 서로 다를 때를 다룹니다.
• 언제 어디서나 간단한 분류기와 함께 보편적으로 작동하는 강건한 특성 추출을 미지의 도메인에서 보여줍니다.

제안 방법

• 소스 도메인을 도메인 시프트를 시뮬레이션하기 위해 가상(train/validation) 도메인으로 분할합니다.
• 모델을 공유 특성 추출기 f_theta와 도메인 특이적 분류기 g_phi로 분해하고, 도메인 간에 보편적인 f_theta를 사용합니다.
• 추출된 특성 F=f_theta(X)에 작용하여 f_theta의 학습을 위한 보조 손실을 제공하는 학습된 feature-critic h_omega를 도입합니다.
• f_theta와 분류기를 감독 손실 plus 보조 손실로 END-TO-END로 학습하는 동시에, 검증 도메인 개선을 측정하는 메타-손실을 통해 h_omega를 업데이트합니다.
• h_omega를 특징 배치 행의 순열 불변 함수로 설계합니다. 예: set-embedding(MLP 처리 특성의 평균) 또는 평탄화된 공분산으로, 음이 아닌 스칼라를 생성합니다.
• 메타 학습 루프(Algorithm 2)를 사용하여 보조 손실을 최적화하고 메타 검증 세트에서의 개선을 극대화합니다.

실험 결과

연구 질문

• RQ1 모르는 도메인에 일반화될 수 있는 특징 추출기를 어떻게 학습시킬 수 있을까? 라벨 공간이 서로 달라질 수 있는 상황에서.
• RQ2 학습된 보조 손실(feature-critic)이 타깃 도메인 데이터 없이도 도메인 시프트에 강건한 특징 학습을 이끌 수 있을까?
• RQ3 Feature-Critic를 메타-학습하면 전통 DG와 이질적 DG 모두의 성능이 향상될까?
• RQ4 일반 분류기(SVM/KNN)와 함께 타깃 도메인에서 오프더쉘프 특징이 효과적일까?
• RQ5 대규모 이질적 DG 벤치마크(Visual Decathlon) 및 표준 DG 벤치마크(Rotated MNIST, PACS)에서 기존 방법과 비교해 성능은 어떠한가?

주요 결과

• Feature-Critic는 이질적 DG(Visual Decathlon)에서 베이스라인 대비 도메인과 분류기에 대해 일반적으로 우수한 성능을 달성합니다.
• 타깃 데이터가 제한되거나 이용 불가능한 경우에도 단순한 분류기로 강력한 타깃 도메인 분류를 가능하게 하는 견고한 오프-the-shelf 특징을 제공합니다.
• 동질 DG 설정(Rotated MNIST, PACS)에서 Feature-Critic는 여러 선행 DG 방법을 능가하고, 서로 다른 데이터 분할 및 Few-/k-shot 시나리오에서도 경쟁력을 유지합니다.
• 학습 전체에서 학습된 보조 손실은 적응적으로 조정되며, 메타-손실 분석은 크로스-도메인 일반화 지식을 흡수하면서 수렴 및 안정화를 보입니다.
• 이 방법은 대규모 DG 벤치마크(VD)로의 확장성 및 전통적 ImageNet 특징 및 표준 집계 baselines 대비 일관된 이득을 보여줍니다.