[논문 리뷰] Reweighting Augmented Samples by Minimizing the Maximal Expected Loss

Mingyang Yi, Lu Hou외 4명|arXiv (Cornell University)|2021. 03. 16.

Domain Adaptation and Few-Shot Learning참고 문헌 46인용 수 6

한 줄 요약

이 논문은 보정된 데이터 샘플에 대한 재가중 전략을 제안하며, 최대 기대 손실(MMEL)을 최소화하여 더 어려운 예측(더 큰 손실을 가진 예측)에 더 높은 가중치를 할당하는 폐쇄형 해법을 사용한다. 이 방법은 기존의 증강 파ip라인을 수정하지 않고도 NLP 및 이미지 작업에서 모델의 일반화 성능을 향상시킨다.

ABSTRACT

Data augmentation is an effective technique to improve the generalization of deep neural networks. However, previous data augmentation methods usually treat the augmented samples equally without considering their individual impacts on the model. To address this, for the augmented samples from the same training example, we propose to assign different weights to them. We construct the maximal expected loss which is the supremum over any reweighted loss on augmented samples. Inspired by adversarial training, we minimize this maximal expected loss (MMEL) and obtain a simple and interpretable closed-form solution: more attention should be paid to augmented samples with large loss values (i.e., harder examples). Minimizing this maximal expected loss enables the model to perform well under any reweighting strategy. The proposed method can generally be applied on top of any data augmentation methods. Experiments are conducted on both natural language understanding tasks with token-level data augmentation, and image classification tasks with commonly-used image augmentation techniques like random crop and horizontal flip. Empirical results show that the proposed method improves the generalization performance of the model.

연구 동기 및 목표

• 모든 보정된 샘플을 동일하게 취급하는 데이터 증강의 한계를 해결하기 위해, 더 어려운 또는 더 정보가 많은 샘플을 간과하지 않도록 하기 위해.
• 더 높은 손실 값을 가진 보정된 샘플에 더 많은 주의를 기울임으로써 모델의 일반화 성능을 향상시키는 재가중 전략을 개발하기 위해.
• 모든 가능한 재가중 전략에 대해 최악의 경우 기대 손실을 최소화하여, 임의의 가중치 선택에 대해서도 강건성을 확보하기 위해.
• 기존의 어떤 데이터 증강 기법과도 통합할 수 있는 간단하고 해석 가능하며 보편적으로 적용 가능한 방법을 제공하기 위해.

제안 방법

• 이 방법은 동일한 원본 예제에서 유도된 보정된 샘플의 모든 가능한 가중치에 대해 재가중된 손실의 상한값으로 정의된 최대 기대 손실(MEL) 목적함수를 도입한다.
• 최적화 문제를 이 MEL을 최소화하는 방식으로 설정하며, 이는 모든 가능한 재가중 방식에 대해 최악의 경우 손실을 최소화하는 것과 동치이다.
• 최적화는 더 큰 개별 손실을 가진 보정 샘플에 더 높은 가중치를 할당하는 폐쇄형 해법을 도출하며, 더 어려운 샘플을 우선시한다.
• 이 방법은 기반 데이터 증강 방법에 대해 무관하며, 임의의 기존 증강 전략(예: 랜덤 크롭, 수평 플립, 토큰 수준 변환 등)에 적용할 수 있다.
• 이 방법은 적대적 훈련 원리에서 영감을 얻었으며, 재가중을 최소화-최대화 문제로 간주하여 강건성을 확보한다.
• 최종 모델은 각 보정 샘플이 최대 기대 손실에 기여하는 바에 따라 가중치가 할당된 재가중된 손실을 사용하여 훈련된다.

실험 결과

연구 질문

• RQ1 개별 손실 값에 따라 보정된 샘플을 재가중하는 것이 모델의 일반화 성능 향상에 기여하는가?
• RQ2 모든 가능한 재가중 전략에 대해 최대 기대 손실을 최소화하면 더 강건하고 일반화 능력이 뛰어난 모델이 되는가?
• RQ3 이러한 방법이 NLP 및 컴퓨터 비전 분야의 다양한 데이터 증강 기법에 적용되었을 때의 성능은 어떠한가?
• RQ4 재가중을 위한 폐쇄형 해법은 계산적으로 효율적이며 다양한 작업에서 실용적으로 효과적인가?

주요 결과

• 제안된 MMEL 방법은 자연어 이해 및 이미지 분류 작업 전반에서 모델의 일반화 성능 향상에 기여한다.
• 이미지 작업에서 랜덤 크롭, 수평 플립과 같은 표준 데이터 증강 기법에 적용했을 때도 일관된 성능 향상이 이루어진다.
• 토큰 수준의 데이터 증강을 사용하는 NLP 작업에서는 하류 성능 지표에서 측정 가능한 향상이 이루어진다.
• 재가중을 위한 폐쇄형 해법은 계산적으로 효율적이며, 표준 훈련 외에 추가 하이퍼파라미터 튜닝이 필요하지 않다.
• MMEL로 훈련된 모델는 최악의 경우 기대 손실을 최소화하므로, 임의의 재가중 전략에 대해 강건하다.
• 실험 결과는 더 어려운 보정 샘플(더 높은 손실을 가진 샘플)에 더 많은 주의를 기울이는 것이 더 나은 일반화를 이끌어낸다는 것을 확인한다.