[논문 리뷰] Meta-causal Learning for Single Domain Generalization

Jin Chen, Zhi Gao외 2명|arXiv (Cornell University)|2023. 04. 07.

Domain Adaptation and Few-Shot Learning인용 수 5

한 줄 요약

이 논문은 단일 도메인 일반화를 위한 새로운 시뮬레이션-분석-감소 파라다임을 제안하며, 변환된 보조 도메인에서의 반사적 추론을 통한 반사적 추론을 활용해 도메인 이동 원인을 추론하고 감소시킨다. 이 방법은 테스트 중 적응형 도메인 정렬을 안내하는 메타지식을 학습함으로써 이미지 분류 벤치마크에서 최신 기술 수준의 성능을 달성한다. 특히 큰 도메인 이동 상황에서 뛰어난 성능을 보인다.

ABSTRACT

Single domain generalization aims to learn a model from a single training domain (source domain) and apply it to multiple unseen test domains (target domains). Existing methods focus on expanding the distribution of the training domain to cover the target domains, but without estimating the domain shift between the source and target domains. In this paper, we propose a new learning paradigm, namely simulate-analyze-reduce, which first simulates the domain shift by building an auxiliary domain as the target domain, then learns to analyze the causes of domain shift, and finally learns to reduce the domain shift for model adaptation. Under this paradigm, we propose a meta-causal learning method to learn meta-knowledge, that is, how to infer the causes of domain shift between the auxiliary and source domains during training. We use the meta-knowledge to analyze the shift between the target and source domains during testing. Specifically, we perform multiple transformations on source data to generate the auxiliary domain, perform counterfactual inference to learn to discover the causal factors of the shift between the auxiliary and source domains, and incorporate the inferred causality into factor-aware domain alignments. Extensive experiments on several benchmarks of image classification show the effectiveness of our method.

연구 동기 및 목표

• 학습 시 하나의 소스 도메인만 제공되고 여러 개의 미리 보지 못한 타겟 도메인으로 일반화해야 하는 단일 도메인 일반화 문제에 대응하기 위해.
• 기존 방법들이 도메인 이동을 명시적으로 모델링하거나 추정하지 않고 소스 도메인 분포를 확장하는 한계를 극복하기 위해.
• 소스 도메인과 타겟 도메인 간의 분포 차이 원인을 인과적 요인으로 분석하고 도메인 이동을 감소시키기 위해.
• 다양한 도메인 이동에 걸쳐 인과 추론 지식을 일반화할 수 있는 메타학습 프레임워크를 개발하기 위해.

제안 방법

• 소스 데이터에 여러 가지 데이터 변환을 적용하여 보조 도메인을 구성함으로써 잠재적인 타겟 도메인 이동을 시뮬레이션한다.
• 반사적 추론을 위해 데이터, 변형 요인, 의미적 개념, 레이블 간의 의존성을 모델링하는 인과 그래프를 구축한다.
• 변형 요인에 간섭하여 예측에 대한 인과적 영향을 추정함으로써 도메인 이동의 근본 원인을 식별한다.
• 효과-가중치 네트워크를 통해 추론된 인과적 영향을 인지된 요인에 맞는 가중치로 변환하여 요인 인식 도메인 정렬을 수행한다.
• 테스트 시, 학습된 메타지식을 활용해 소스 도메인과 미리 보지 못한 타겟 도메인 간의 인과적 구조를 분석한다.
• 모델은 추론된 인과적 영향을 바탕으로 특징 매핑을 동적으로 조정하여 적응형 정렬을 통해 도메인 차이를 감소시킨다.

실험 결과

연구 질문

• RQ1 모델은 소스 도메인과 미리 보지 못한 타겟 도메인 간의 도메인 이동 원인이 되는 인과적 요인을 추론할 수 있는가?
• RQ2 인과 이동 분석에 대한 메타지식을 학습하면 단일 도메인 일반화에서 일반화 성능이 향상되는가?
• RQ3 보조 도메인에서의 반사적 추론은 실제 테스트 시 도메인 이동을 추정하고 감소시키는 데 어떻게 기여하는가?
• RQ4 광학적 및 기하학적 변형 요인은 실제 이미지 분포 이동에서 도메인 이동을 모델링하는 데 얼마나 기여하는가?

주요 결과

• 제안된 방법은 여러 이미지 분류 벤치마크에서 최신 기술 수준의 성능을 달성하였으며, ResNet-18를 사용한 PACS에서 평균 정확도 69.86%를 기록했다.
• 더 도전적인 Photo-to-Sketch 및 Photo-to-Cartoon 설정에서는 각각 62.55% 및 80.14%의 정확도를 기록하여 베이스라인을 초월했다.
• 절단 실험 결과, 인과 분석 없이 도메인 이동을 직접 감소시키는 방법(DTA)은 성능을 떨어뜨리며, 이는 무분별한 정렬에서의 악영향 전이를 시사한다.
• 인과 효과 시각화 결과, CIFAR10-C 이동에서 NoiseGaussian가 주요 요인임을 정확히 식별하였으며, 손상 심도가 증가할수록 추론된 가중치도 증가함을 확인했다.
• 요인 분석 결과, 광학적 요인만을 사용한 경우(Ours_PT)는 기하학적 요인(Ours_GT)보다 성능이 뛰어나지만, 두 요인을 병합한 경우가 가장 우수한 성능을 보였으며, 이는 다중 요인 모델링의 필요성을 강조한다.
• 이 방법은 큰 도메인 이동에 대해 강건함을 보이며, 특히 소스 도메인과 타겟 도메인 분포가 크게 다를 경우 뛰어난 성능을 발휘한다.