[논문 리뷰] Environment Inference for Invariant Learning

Elliot Creager, Jörn-Henrik Jacobsen외 1명|arXiv (Cornell University)|2020. 10. 14.

Domain Adaptation and Few-Shot Learning참고 문헌 52인용 수 10

한 줄 요약

이 논문은 참조 모델의 예측 편향을 사용하여 데이터에서 최적의 환경을 자동으로 추론하는 환경 추론를 위한 관측 학습(EIIL) 프레임워크를 제안한다. 이는 사전 환경 레이블 없이도 관측 학습을 가능하게 하며, Waterbirds에서 worst-group 정확도를 18% 향상시키고, CMNIST와 CivilComments에서 ERM 및 관측 학습 기반 방법보다 뛰어난 성능을 보이며, 보다 나은 校정과 부분군 충족도를 통해 공정성도 향상시킨다.

ABSTRACT

Learning models that gracefully handle distribution shifts is central to research on domain generalization, robust optimization, and fairness. A promising formulation is domain-invariant learning, which identifies the key issue of learning which features are domain-specific versus domain-invariant. An important assumption in this area is that the training examples are partitioned into "domains" or "environments". Our focus is on the more common setting where such partitions are not provided. We propose EIIL, a general framework for domain-invariant learning that incorporates Environment Inference to directly infer partitions that are maximally informative for downstream Invariant Learning. We show that EIIL outperforms invariant learning methods on the CMNIST benchmark without using environment labels, and significantly outperforms ERM on worst-group performance in the Waterbirds and CivilComments datasets. Finally, we establish connections between EIIL and algorithmic fairness, which enables EIIL to improve accuracy and calibration in a fair prediction problem.

연구 동기 및 목표

• 학습 중 환경 레이블이 가용하지 않을 때 도메인 일반화 문제를 해결하기 위해.
• 참조 모델의 편향을 활용하여 훈련 데이터에서 의미 있고 정보적인 환경 분할을 직접 발견하는 방법을 개발하기 위해.
• 명시적인 환경 레이블이 없이도 관측 학습을 가능하게 하여 분포 외 일반화 능력과 공정성을 향상시키기 위해.
• 환경 추론과 알고리즘 공정성 간의 연결 고리를 설정하기 위해, 특히 부분군 校정과 강건성 측면에서.

제안 방법

• EIIL는 사전 훈련된 경험적 리스크 최소화(ERM) 모델을 사용하여 예측 오차와 편향을 식별하여 데이터 내 임의의 상관관계를 드러낸다.
• 부드러운 환경 할당에 대해 미분 가능하면서도 서로 다른 환경 간의 변동성을 최대화하는 환경 추론 목적 함수를 설정한다.
• 기울기 기반 최적화를 통해 부드러운 환경 할당에 대해 최적의 정보량을 갖는 분할을 발견한다.
• 환경 추론 후, EIIL는 추론된 환경을 기반으로 하류의 관측 학습 모델(예: IRMv1)을 훈련시켜 도메인 불변 표현을 학습한다.
• 프레임워크는 추론된 악성 환경 간의 校정을 암묵적으로 정규화하여, 민감한 속성 정보 없이도 부분군 충족도를 향상시킨다.
• 환경 크기에 기반한 예측별 가중치를 활용하고, 관측 불변성 페널티를 적용하여 추론된 군집 간의 강건성을 확보한다.

실험 결과

연구 질문

• RQ1 환경 레이블이 없을 때 모델 편향에서 유추된 환경이 분포 외 일반화 능력을 향상시키는가?
• RQ2 EIIL가 유추한 환경 분할은 벤치마크 데이터셋에서 수동으로 지정된 환경과 비교해 성능가능한가?
• RQ3 환경 추론이 부분군 강건 예측에서 공정성과 校정 능력을 얼마나 향상시킬 수 있는가?
• RQ4 EIIL의 성능 향상에 기여하는 핵심 요소는 환경 발견인가, 관측 불변성 정규화인가?

주요 결과

• EIIL는 환경 레이블을 사용하지 않고도 Waterbirds 데이터셋에서 표준 ERM 대비 worst-group 테스트 정확도를 18% 향상시켰다.
• CMNIST 벤치마크에서 EIIL는 수동으로 제공된 환경 레이블에 의존하는 관측 학습 방법보다 뛰어난 성능을 보였다.
• Adult-Confounded 데이터셋에서 EIIL는 ARL 및 무작위 환경을 사용한 IRM보다 부분군 校정과 충족도를 크게 향상시켰다.
• 절단 실험 결과, 환경 발견과 관측 불변성 정규화 모두 필수적임을 확인하였으며, 둘 중 하나를 제거하면 테스트 정확도가 급격히 떨어졌다.
• EIIL는 무작위 환경 할당을 사용한 IRM보다 뛰어난 성능을 기록하여, 가장 악성인 환경을 유추하는 것이 가치가 있음을 입증했다.
• 민감한 속성 정보 없이도 추론된 환경 간의 관측 불변성을 암묵적으로 학습함으로써, 공정한 예측 작업에서 정확도와 校정 능력을 향상시켰다.