[논문 리뷰] When is invariance useful in an Out-of-Distribution Generalization problem ?

Masanori Koyama, Shoichiro Yamaguchi|arXiv (Cornell University)|2020. 08. 04.

Domain Adaptation and Few-Shot Learning참고 문헌 50인용 수 30

한 줄 요약

본 논문은 OOD 일반화가 불변 예측기를 찾는 문제로 환원될 수 있는 제어 가능성 조건을 도입하고, Inter-environment Gradient Alignment(IGA)와 함께 Maximal Invariant Predictor(MIP)를 제안하며, MNIST 기반 벤치마크에 대한 실험을 제시한다.

ABSTRACT

The goal of Out-of-Distribution (OOD) generalization problem is to train a predictor that generalizes on all environments. Popular approaches in this field use the hypothesis that such a predictor shall be an extit{invariant predictor} that captures the mechanism that remains constant across environments. While these approaches have been experimentally successful in various case studies, there is still much room for the theoretical validation of this hypothesis. This paper presents a new set of theoretical conditions necessary for an invariant predictor to achieve the OOD optimality. Our theory not only applies to non-linear cases, but also generalizes the necessary condition used in \citet{rojas2018invariant}. We also derive Inter Gradient Alignment algorithm from our theory and demonstrate its competitiveness on MNIST-derived benchmark datasets as well as on two of the three extit{Invariance Unit Tests} proposed by \citet{aubinlinear}.

연구 동기 및 목표

• OOD 일반화 문제를 동기 부여하고 불변성-전용 접근의 한계를 비판한다.
• 불변 예측기가 OOD 최적성을 낳는 제어 가능성 조건을 형식화한다.
• 고정된 인과 변수 부분집합을 넘는 비선형 설정으로 불변성 이론을 확장한다.
• MIP에서 영감을 얻은 실용적인 알고리즘(IGA)을 도입해 불변 예측기를 학습한다.
• MNIST 유도 벤치마크와 불변성 단위 테스트에서 제안된 접근을 경험적으로 검증한다.

제안 방법

• 불변 특성 h(X)가 P(Y|h(X),E)=P(Y|h(X))를 만족하는지 정의한다.
• 제어 가능성 조건을 제안한다: supp(E)에 속하는 모든 E에 대해 P(Y|X,~E)=P(Y|h(X),~E)인 수정된 환경이 존재한다.
• 이러한 h가 존재하면 E[Y|h(X)]가 OOD 문제를 해결한다는 것을 보인다.
• 정보 이론적 목표로서의 Maximal Invariant Predictor(MIP)를 도입한다: 불변성 제약 하에서 I(Y;h(X))를 최대화한다.
• 환경 전반에 걸친 P(Y|h(X),E)를 태스크 일반 매개변수 theta와 MAML에서 영감을 받은 환경 조정 업데이트를 통해 매개변수화한다.
• 환경 간 그래디언트를 맞추어 불변성을 강제하는 Inter-environment Gradient Alignment(IGA) 목적함수를 도출한다(근사적으로 O(alpha^2) 항까지).
• 정체성을 알 필요 없이 일련의 환경으로 학습하는 방법을 논의하고 IGA를 비선형 설정의 IRM과의 관계 속에서 설명한다.

실험 결과

연구 질문

• RQ1 이론적 조건 하에서 OOD 일반화 문제가 불변성 문제로 재정의될 수 있는가?
• RQ2 인과 부분구조가 관측 가능성의 고정된 부분집합이 아닌 비선형 설정에서 불변 예측기가 OOD 목표를 해결할 수 있는가?
• RQ3 명시적 인과 그래프 없이 이러한 예측기를 학습하기 위한 실용적 목적(MIP)과 알고리즘(IGA)을 어떻게 공식화할 수 있는가?
• RQ4 IRM과 같은 불변 학습 방법이 선형 모델을 넘어선 벤치마크 작업에서 경쟁력 있는 OOD 성능을 달성하는가?

주요 결과

• 제시된 제어 가능성 조건은 비선형 모델에서도 불변 예측기가 OOD 최적성이 될 수 있음을 보장한다.
• 불변성 및 정보 최대화 목표를 연결하는 Maximal Invariant Predictor(MIP) 목표를 제안한다.
• 명시적 인과 구조 없이도 MIP 프레임워크에서 모델을 학습하기 위한 Inter-environment Gradient Alignment(IGA) 알고리즘이 도출된다.
• IGA는 환경별 그래디언트를 정렬하여 비선형 설정에 적용 가능한 불변 위험 최소화(IRM)과 밀접하게 관련된 실용적 방법을 제공한다.
• 경험적 결과는 IGA가 불변성 단위 테스트와 Colored MNIST 벤치마크에서 ERM 및 IRM에 비해 경쟁력 있는 성능을 보임을 시사한다.