[논문 리뷰] Adaptive Risk Minimization: A Meta-Learning Approach for Tackling Group Shift

Marvin Mengxin Zhang, Henrik Marklund외 4명|arXiv (Cornell University)|2021. 05. 04.

Domain Adaptation and Few-Shot Learning참고 문헌 89인용 수 39

한 줄 요약

이 논문은 테스트 시기의 분포 이탈에 적응할 수 있도록 비라벨 배치 데이터를 사용하여 모델를 훈련하는 메타학습 프레임워크인 적응형 리스크 최소화(ARM)를 소개한다. 메타훈련 중에 그룹 분포 이탈을 시뮬레이션함으로써 ARM은 분포 이탈 하에서 이미지 분류 작업의 강건성과 성능을 향상시켜 기존 방법들을 능가한다.

ABSTRACT

A fundamental assumption of most machine learning algorithms is that the training and test data are drawn from the same underlying distribution. However, this assumption is violated in almost all practical applications: machine learning systems are regularly tested under distribution shift, due to temporal correlations, particular end users, or other factors. In this work, we consider the setting where the training data are structured into groups and test time shifts correspond to changes in the group distribution. Prior work has approached this problem by attempting to be robust to all possible test time distributions, which may degrade average performance. In contrast, we propose to use ideas from meta-learning to learn models that are adaptable, such that they can adapt to shift at test time using a batch of unlabeled test points. We acquire such models by learning to adapt to training batches sampled according to different distributions, which simulate structural shifts that may occur at test time. Our primary contribution is to introduce the framework of adaptive risk minimization (ARM), a formalization of this setting that lends itself to meta-learning. We develop meta-learning methods for solving the ARM problem, and compared to a variety of prior methods, these methods provide substantial gains on image classification problems in the presence of shift.

연구 동기 및 목표

• 학습 데이터와 테스트 데이터가 서로 다른 그룹 분포에서 유래하는 분포 이탈 문제를 해결하기 위해.
• 과도하게 보수적인 경향으로 평균 성능이 저하되는 기존 강건 학습 방법의 한계를 극복하기 위해.
• 소량의 비라벨 테스트 데이터만을 사용하여 새로운 그룹 분포에 효율적으로 적응할 수 있는 모델을 개발하기 위해.
• ARM 프레임워크를 통해 분포 이탈 적응 문제를 메타학습 과제로 공식화하기 위해.
• 다양한 유형의 그룹 이탈 하에서 이미지 분류 벤치마크에서의 성능을 향상시키기 위해.

제안 방법

• 모델가 다양한 그룹 분포에서 샘플링된 훈련 배치를 통해 메타학습하여, 잠재적인 테스트 시기 이탈을 시뮬레이션함으로써 분포 이탈 문제를 적응형 리스크 최소화(ARM)로 공식화한다.
• 다양한 훈련 배치를 그룹 분포에서 샘플링하여 메타학습을 통해 다양한 분포 이탈에 대비한 모델을 훈련시킨다.
• 소량의 비라벨 테스트 데이터를 기반으로 모델 파라미터를 업데이트하여 새로운 분포에 적응하는 메타-학습자(메타-러닝러)를 학습시킨다.
• 메타훈련 기간 동안 다수의 시뮬레이션된 분포 이탈에 대해 기대 리스크를 최소화함으로써 메타목표를 최적화한다.
• 기울기 기반 메타학습(예: MAML 스타일)을 적용하여 소량의 테스트 샘플로도 빠른 적응을 가능하게 한다.
• 지원셋 기반의 적응 메커니즘을 사용하여, 새로운 그룹 분포의 소량의 비라벨 테스트 예제를 통해 모델의 가중치를 업데이트한다.

실험 결과

연구 질문

• RQ1 메타학습은 테스트 시기의 분포 이탈에 적응할 수 있도록 모델을 효과적으로 훈련시키는 데에 활용될 수 있는가?
• RQ2 제안된 ARM 프레임워크는 분포 이탈 하에서 기존 강건 학습 방법과 비교해 성능 면에서 어떻게 다른가?
• RQ3 소량의 비라벨 테스트 데이터를 사용한 적응은 이탈한 그룹 분포 간의 일반화 능력을 얼마나 향상시킬 수 있는가?
• RQ4 다양한 시뮬레이션된 이탈에 대해 훈련하는 메타학습 접근법은 더 뛰어난 강건성과 평균 성능을 이끌어내는가?

주요 결과

• 제안된 ARM 프레임워크는 기존 방법들에 비해 분포 이탈 하에서 이미지 분류 벤치마크에서 상당한 성능 향상을 달성한다.
• ARM로 훈련된 모델는 원래 분포에서의 성능을 희생시키지 않으면서 다양한 유형의 그룹 이탈에 대해 강건성이 향상된다.
• 소량의 비라벨 테스트 데이터만을 사용한 적응이 이탈한 테스트 세트에서의 정확도를 크게 향상시킨다.
• 메타학습 접근법은 빠르고 효과적인 적응을 가능하게 하여, 최악의 분포 이탈을 가정하는 방법들을 능가한다.
• 실험 결과는 ARM이 분포 이탈에 강건하면서도 높은 평균 성능을 유지함을 보여준다.