[논문 리뷰] Task Augmentation by Rotating for Meta-Learning

Jialin Liu, Fei Chao외 1명|arXiv (Cornell University)|2020. 02. 08.

Domain Adaptation and Few-Shot Learning참고 문헌 28인용 수 22

한 줄 요약

이 논문은 소수의 샘플로 학습하는 메타학습에서 과적합을 줄이고 성능을 햖थ하려는 목적으로, 기존 이미지의 90°, 180°, 270° 회전을 통해 새로운 클래스를 생성하는 새로운 데이터 증강 방법인 Task Augmentation by Rotating (Task Aug)을 제안한다. 이는 학습 이미지 수를 늘리는 대신, 회전된 변형을 통해 학습 클래스 수를 늘림으로써 메타학습 기간 동안 작업의 다양성을 높인다. 이 방법은 miniImageNet, CIFAR-FS, FC100 벤치마크에서 최신 기술을 초월하는 성능을 달성하며, 이전 방법 대비 2%에서 5%의 성능 향상을 보였다.

ABSTRACT

Data augmentation is one of the most effective approaches for improving the accuracy of modern machine learning models, and it is also indispensable to train a deep model for meta-learning. In this paper, we introduce a task augmentation method by rotating, which increases the number of classes by rotating the original images 90, 180 and 270 degrees, different from traditional augmentation methods which increase the number of images. With a larger amount of classes, we can sample more diverse task instances during training. Therefore, task augmentation by rotating allows us to train a deep network by meta-learning methods with little over-fitting. Experimental results show that our approach is better than the rotation for increasing the number of images and achieves state-of-the-art performance on miniImageNet, CIFAR-FS, and FC100 few-shot learning benchmarks. The code is available on \url{www.github.com/AceChuse/TaskLevelAug}.

연구 동기 및 목표

• 소수의 예시로만 학습하는 환경에서, 새로운 클래스에 대해 일반화할 수 있도록 하는 메타학습의 작업 다양성 부족 문제를 해결하기 위해.
• 학습 중에 고유한 클래스 수를 늘림으로써 일반화 능력을 향상시키고 과적합을 줄이기 위해.
• 이미지 수준이 아닌 작업 수준에서의 데이터 증강을 새로운 패러다임으로 탐색하여, 메타학습의 계층적 학습 과정과 더 잘 부합시키기 위해.
• 간단하고 비용 효율적인 증강 전략을 사용하여 표준 소수의 샘플 학습 벤치마크에서 최신 기술 성능을 달성하기 위해.

제안 방법

• 기존 이미지를 90°, 180°, 270°로 회전시켜 새로운 고유한 클래스를 생성함으로써, 메타학습 기간 동안 사용 가능한 클래스 수를 늘리는 방법을 도입한다.
• 기존의 데이터 증강 기법이 이미지 수를 늘리는 데서 벗어나, Task Aug는 고유한 클래스 식별자를 늘림으로써 작업의 다양성을 향상시킨다.
• 회전된 이미지는 기존 클래스에 통합되지 않고, 새로운 클래스로 간주되어 의미적 독립성을 유지한다.
• 기존 메타학습 모델인 ProtoNets, M-SVM, R2-D2와 함께 표준 소수의 샘플 학습 프로토콜을 사용하여 적용된다.
• 성능 향상을 위해 앙상블 방법과 검증 기반 모델 선택 기법을 활용하며, Task Aug로 인한 일반화 능력 향상을 유도한다.
• 3개의 벤치마크인 miniImageNet, CIFAR-FS, FC100에서 평가되었으며, 5-way 1-shot 및 5-shot 설정에서 수행되었다.

실험 결과

연구 질문

• RQ1 이미지의 회전을 통해 고유한 클래스 수를 늘림으로써 소수의 샘플 학습에서 일반화 능력 향상이 가능할까?
• RQ2 기존의 이미지 수준 증강 대비, 작업 수준에서의 증강 기법으로서의 회전이 과적합을 줄이는 데 효과적인가?
• RQ3 기존 최신 기술 대비 표준 소수의 샘플 학습 벤치마크에서 Task Augmentation의 성능은 어떠한가?
• RQ4 앙상블 또는 검증 기반 모델 선택과 결합했을 때, Task Aug의 성능 향상 효과는 더욱 높아질 수 있는가?

주요 결과

• Task Aug는 R2-D2에 앙상블 및 검증 기반 모델 선택을 적용한 경우, 5-way 5-shot 정확도 81.96%로 miniImageNet 벤치마크에서 최신 기술을 초월하는 최고 성능을 기록하였다.
• CIFAR-FS에서 5-shot 정확도는 88.38%를 기록하여 이전 최고 기록을 3% 이상 초월하였다.
• FC100에서는 5-shot 정확도 67.17%를 달성하여 이전 최고 기록 대비 4.5% 향상되었다.
• 앙상블 방법을 사용했을 때 성능 향상이 가장 두드러졌으며, 이는 Task Aug가 과적합을 줄이고 더 고품질의 모델 학습을 가능하게 한다는 것을 시사한다.
• 결과적으로, 새로운 클래스를 생성하기 위해 이미지를 회전시키는 방식이, 메타학습에서 모델 다양성과 일반화 능력을 향상시키는 데 있어 기존 증강 기법보다 더 효과적임을 보여주었다.