[논문 리뷰] Domain Generalization via Semi-supervised Meta Learning

Hossein Sharifi-Noghabi, Hossein Asghari외 2명|arXiv (Cornell University)|2020. 09. 26.

Domain Adaptation and Few-Shot Learning참고 문헌 38인용 수 6

한 줄 요약

이 논문은 분포 이탈이 있는 다수의 소스 도메인에서 레이블된 데이터와 레이블이 없는 데이터를 모두 활용하기 위해 준지도 학습과 메타학습을 융합한 DGSML을 제안한다. 엔트로피 기반의 가짜 레이블링과 새로운 불일치 및 정렬 손실을 사용하여, 특히 레이블된 데이터가 부족하고 레이블이 없는 데이터가 풍부할 때 벤치마크 데이터셋에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

The goal of domain generalization is to learn from multiple source domains to generalize to unseen target domains under distribution discrepancy. Current state-of-the-art methods in this area are fully supervised, but for many real-world problems it is hardly possible to obtain enough labeled samples. In this paper, we propose the first method of domain generalization to leverage unlabeled samples, combining of meta learning's episodic training and semi-supervised learning, called DGSML. DGSML employs an entropy-based pseudo-labeling approach to assign labels to unlabeled samples and then utilizes a novel discrepancy loss to ensure that class centroids before and after labeling unlabeled samples are close to each other. To learn a domain-invariant representation, it also utilizes a novel alignment loss to ensure that the distance between pairs of class centroids, computed after adding the unlabeled samples, is preserved across different domains. DGSML is trained by a meta learning approach to mimic the distribution shift between the input source domains and unseen target domains. Experimental results on benchmark datasets indicate that DGSML outperforms state-of-the-art domain generalization and semi-supervised learning methods.

연구 동기 및 목표

• 레이블된 데이터는 부족하지만 레이블이 없는 데이터는 풍부한 실세계 시나리오에서 도메인 일반화의 과제를 해결한다.
• 기존의 도메인 일반화 방법들이 전적으로 완전지도 학습에 의존하고 레이블이 없는 샘플을 간과하는 한계를 극복한다.
• 레이블된 데이터와 레이블이 없는 데이터를 모두 사용하여 도메인 불변 표현을 학습함으로써, 예측할 수 없는 타겟 도메인으로 일반화할 수 있는 방법을 개발한다.
• 준지도 학습 기법—특히 가짜 레이블링과 중심점 기반 일致성—을 메타학습 프레임워크에 통합하여 학습 중에 분포 이탈을 시뮬레이션한다.
• 레이블이 없는 샘플의 가짜 레이블링 전후의 클래스 중심점 간의 불일치를 최소화하고, 다양한 도메인 간의 클래스 중심점 간 거리 유지를 통해 강건성과 일반화 능력을 확보한다.

제안 방법

• 각 에피소드 동안 소스 도메인을 메타학습 및 메타테스트 세트로 분할하여, 에피소드 기반 메타학습을 사용해 소스 도메인 간 및 예측할 수 없는 타겟 도메인 간의 분포 이탈을 시뮬레이션한다.
• 엔트로피 기반 가짜 레이블링을 적용하여 고신뢰도 예측을 레이블이 없는 샘플에 대한 가짜 레이블로 할당함으로써 준지도 학습을 가능하게 한다.
• 레이블이 없는 샘플의 가짜 레이블링 전후에 계산된 클래스 중심점(평균) 간의 유사성을 강제하는 불일치 손실을 도입한다.
• 가짜 레이블이 포함된 후에도 다양한 도메인 간 클래스 중심점 간의 거리 벡터를 유지하는 정렬 손실을 설계한다.
• 작업별 교차 엔트로피 손실, 준지도 학습 불일치 손실, 도메인 정렬 손실의 세 부분으로 구성된 손실을 최적화한다.
• 메타학습 설정에서 이阶 도함수를 사용하여 모델을 엔드 투 엔드로 훈련함으로써 예측할 수 없는 도메인으로의 일반화 능력을 향상시킨다.

실험 결과

연구 질문

• RQ1 분포 이탈이 있는 다수의 소스 도메인에서 레이블된 데이터와 레이블이 없는 데이터를 효과적으로 활용할 수 있는 도메인 일반화 방법은 존재하는가?
• RQ2 준지도 학습과 메타학습을 융합함으로써, 완전지도 학습 기반 도메인 일반화에 비해 예측할 수 없는 타겟 도메인으로의 일반화 능력은 어떻게 향상되는가?
• RQ3 레이블된 데이터가 제한되고 레이블이 없는 데이터가 풍부할 때, 가짜 레이블링은 성능 향상에 어느 정도 기여하는가?
• RQ4 중심점 일관성과 도메인 간 거리 유지가 도메인 불변 표현 학습에 어떻게 기여하는가?
• RQ5 다양한 비율의 레이블이 없는 데이터를 가질 때, 제안된 방법은 최신 기술 수준의 방법들과 비교해 정확도 측면에서 어떻게 성과를 내는가?

주요 결과

• DGSML은 총 평균 벤치마크에서 72.98%의 테스트 정확도를 기록하여, 이어지는 최고 성능 방법(MASF, 70.09%)을 크게 앞서 간다.
• 50% 레이블된 데이터가 있는 Sketch 도메인에서 DGSML은 95.08%의 정확도를 기록했으며, 최고의 베이스라인 대비 94.12%보다 높다.
• ResNet-18을 특징 추출기로 사용할 경우, DGSML은 모든 레이블이 없는 데이터 비율에서 강력한 성능 유지를 보이며, 강건성을 입증한다.
• AlexNet을 사용하고 레이블된 데이터 비율이 낮을 경우(예: 50%), DGSML은 72.03%의 정확도를 기록하여 모든 베이스라인을 앞서 간다.
• 특히 레이블된 샘플이 적은 경우, 최신 기술 수준의 도메인 일반화 및 준지도 메타학습 방법들보다 일관된 성능 향상을 보이며, 특히 저샷 레이블링 시나리오에서 두각을 나타낸다.
• DGSML은 단일 개의 GeForce GTX 1080 GPU에서 4시간 이내에 훈련이 가능하여, 이阶 도함수를 사용함에도 불구하고 계산 가능성을 입증한다.