[논문 리뷰] Domain Generalization via Inference-time Label-Preserving Target Projections

Prashant Pandey, Mrigank Raman외 2명|arXiv (Cornell University)|2021. 03. 01.

Domain Adaptation and Few-Shot Learning참고 문헌 46인용 수 4

한 줄 요약

이 논문은 추론 시점에 단일 타겟 샘플을 활용하여 레이블 유지 최적화를 통해 소스 특징 다각형에 타겟 샘플을 투영하는 새로운 도메인 일반화 방법을 제안한다. 도메인 불변성과 클래스 유지 특징을 학습하고, 생성 모델을 사용해 타겟 입력을 투영함으로써, 다양한 벤치마크에서 최신 기술 수준의 성능을 달성하며, 정확도, 강건성 및 데이터 효율성 면에서 기존 방법을 능가한다.

ABSTRACT

Generalization of machine learning models trained on a set of source domains on unseen target domains with different statistics, is a challenging problem. While many approaches have been proposed to solve this problem, they only utilize source data during training but do not take advantage of the fact that a single target example is available at the time of inference. Motivated by this, we propose a method that effectively uses the target sample during inference beyond mere classification. Our method has three components - (i) A label-preserving feature or metric transformation on source data such that the source samples are clustered in accordance with their class irrespective of their domain (ii) A generative model trained on the these features (iii) A label-preserving projection of the target point on the source-feature manifold during inference via solving an optimization problem on the input space of the generative model using the learned metric. Finally, the projected target is used in the classifier. Since the projected target feature comes from the source manifold and has the same label as the real target by design, the classifier is expected to perform better on it than the true target. We demonstrate that our method outperforms the state-of-the-art Domain Generalization methods on multiple datasets and tasks.

연구 동기 및 목표

• 다른 데이터 분포를 가진 미리 보지 않은 타겟 도메인에서 머신 러닝 모델의 일반화 성능을 향상시키기 위해.
• 기존 도메인 일반화 방법의 한계를 해결하기 위해, 분류를 초과해 타겟 샘플을 활용하지 않는 점을 해결하기 위해.
• 소스 데이터로부터 도메인 불변성과 레이블 유지 특징 공간을 학습하여, 효과적인 타겟 샘플 투영을 가능하게 하기 위해.
• 추론 시에 타겟 입력을 소스 특징 다각형에 투영하여 모델의 강건성과 데이터 효율성을 향상시키기 위해.
• 다양한 평가 설정 하에서 표준 도메인 일반화 벤치마크에서 뛰어난 성능을 입증하기 위해.

제안 방법

• 소스 데이터에서 레이블 유지 특징 변환을 학습하기 위해 $f_\theta$ 네트워크를 사용하여 도메인에 관계없이 클래스별로 샘플을 클러스터링한다.
• 표준 정규분포를 소스 특징 다각형으로 매핑하는 생성 모델 $G_\phi$를 훈련하여 클래스 구조를 유지한다.
• 추론 시, 타겟 샘플을 소스 다각형에 투영하면서도 레이블을 유지하도록 $G_\phi$의 입력 공간에서 최적화를 수행한다.
• 원래 타겟 샘플과 동일한 레이블을 가지며 소스 다각형에서 유도된 투영된 타겟 특징을 분류에 사용한다.
• 투영된 점이 원래 타겟에 가까운 위치에 있고 소스 특징 분포 내부에 있도록 보장하는 레이블 유지 목적 함수를 사용해 투영을 최적화한다.
• 훈련 시 $f_\theta$, $G_\phi$, 및 분류기 $\mathcal{C}_\psi$를 별도로 훈련하며, 추론 시에는 파라미터 업데이트 없이 작동한다.

실험 결과

연구 질문

• RQ1 추론 시점에 단일 타겟 샘플을 활용함으로써, 표준 분류를 초월해 미리 보지 않은 도메인에서의 일반화 성능 향상이 가능한가?
• RQ2 소스 데이터에 대한 레이블 유지 특징 변환을 통해 도메인 간 특징의 정렬을 향상시키면서도 클래스 정보를 유지할 수 있는가?
• RQ3 최적화를 통해 타겟 샘플을 소스 특징 다각형에 투영하는 것이 직접 추론보다 분류 정확도를 높이는가?
• RQ4 강건성과 데이터 효율성 측면에서 제안된 방법은 최신 기술 수준의 도메인 일반화 방법과 비교해 어떻게 성능을 내는가?
• RQ5 CIFAR-10-C와 같은 심각한 분포 이탈 및 손상 상황에서도 이 방법은 효과적으로 일반화 가능한가?

주요 결과

• 제안된 방법은 PACS, Office-Home, Digits-DG를 포함한 여러 도메인 일반화 벤치마크에서 최신 기술 수준의 성능을 달성한다.
• ResNet-18를 사용한 PACS 데이터셋에서, 스케치 도메인에서 테스트 정확도 89.6%를 기록하여 이전 방법들을 능가한다.
• 강건성이 뛰어나, CIFAR-10-C의 19가지 오염 유형 전반에서 심도 5 수준에서도 높은 성능을 유지한다.
• 제거 실험 결과, $f_\theta$ 및 $G_\phi$ 구성 요소가 모두 필수적임을 확인하였으며, 둘 중 하나를 제거하면 성능이 크게 떨어진다.
• 기준선 대비 더 높은 데이터 효율성을 보이며, 제한된 소스 데이터 조건에서도 뛰어난 성능을 나타낸다.
• 추론 시점 최적화가 안정적이며 하이퍼파ram터 선택에 대해 강건하며, 다양한 반복 횟수와 정지 지점에서도 일관된 성능을 보인다.