[논문 리뷰] Learning Optimal Data Augmentation Policies via Bayesian Optimization for Image Classification Tasks

Chunxu Zhang, Jiaxu Cui외 1명|arXiv (Cornell University)|2019. 05. 06.

Advanced Neural Network Applications참고 문헌 46인용 수 4

한 줄 요약

이 논문은 이미지 분류에서 최적의 데이터 증강(DA) 정책을 최소한의 계산 비용으로 자동으로 학습하는 데에 베이지안 최적화 기반 방법인 BO-Aug를 제안한다. 구조화된 정책 공간을 베이지안 최적화를 통해 효율적으로 탐색함으로써, BO-Aug는 800회의 실제 평가만으로도 CIFAR-10, CIFAR-100 및 SVHN에서 최신 기술 수준 또는 그에 가까운 정확도를 달성한다—이전 방법들보다 훨씬 적은 수치이며, 다양한 모델과 데이터셋 간에 뛰어난 이식 가능성을 보여준다.

ABSTRACT

In recent years, deep learning has achieved remarkable achievements in many fields, including computer vision, natural language processing, speech recognition and others. Adequate training data is the key to ensure the effectiveness of the deep models. However, obtaining valid data requires a lot of time and labor resources. Data augmentation (DA) is an effective alternative approach, which can generate new labeled data based on existing data using label-preserving transformations. Although we can benefit a lot from DA, designing appropriate DA policies requires a lot of expert experience and time consumption, and the evaluation of searching the optimal policies is costly. So we raise a new question in this paper: how to achieve automated data augmentation at as low cost as possible? We propose a method named BO-Aug for automating the process by finding the optimal DA policies using the Bayesian optimization approach. Our method can find the optimal policies at a relatively low search cost, and the searched policies based on a specific dataset are transferable across different neural network architectures or even different datasets. We validate the BO-Aug on three widely used image classification datasets, including CIFAR-10, CIFAR-100 and SVHN. Experimental results show that the proposed method can achieve state-of-the-art or near advanced classification accuracy. Code to reproduce our experiments is available at https://github.com/zhangxiaozao/BO-Aug.

연구 동기 및 목표

• 딥 러닝을 위한 효과적인 데이터 증강 정책을 수동으로 설계하는 데에 드는 높은 비용과 전문 지식 문제를 해결하기 위해.
• 이미지 분류에서 최적의 DA 정책을 탐색하기 위해 필요한 고비용 실측 평가 횟수를 줄이기 위해.
• 다른 신경망 아키텍처와 데이터셋 간에 재사용 가능한 이식 가능한 DA 정책을 학습하는 방법을 개발하기 위해.
• 최소한의 탐색 비용으로 최신 기술 수준 또는 그에 가까운 분류 정확도를 달성하기 위해.

제안 방법

• 이 방법은 각각 두 개의 이미지 변환(예: 기울임, 회전)을 포함하는 세 개의 서브-정책으로 구성된 DA 정책의 탐색 공간을 정의한다. 각 변환에는 학습 가능한 확률 및 크기 파라미터가 포함된다.
• 베이지안 최적화(BO)가 정책 공간을 효율적으로 탐색하고 평가에 적합한 정책를 선택하기 위한 탐색 알고리즘으로 사용된다.
• 각 후보 정책을 사용하여 검증 세트에서 피드백 모델(예: Wide ResNet)을 훈련하고, 이를 통해 도출된 분류 오차는 BO의 서피스 모델을 업데이트하는 데 사용된다.
• 성능 피드백에 기반해 반복적으로 정책 선택을 정교화함으로써, 필요한 실제 평가 횟수를 최소화한다.
• 최종 최적의 정책는 100회의 반복 후 BO 최적화된 구성으로부터 유도되며, 수렴은 일반적으로 100회의 평가 이내에 달성된다.
• 한 데이터셋(예: Reduced CIFAR-10)에서 학습된 정책는 다른 모델과 데이터셋(예: CIFAR-100 및 SVHN)으로의 이식 가능성을 평가한다.

실험 결과

연구 질문

• RQ1 기존 방법들보다 훨씬 적은 실제 평가 횟수로 베이지안 최적화를 효과적으로 사용하여 최적의 데이터 증강 정책을 탐색할 수 있는가?
• RQ2 한 데이터셋에서 발견된 최적의 데이터 증강 정책는 재학습 없이도 다른 신경망 아키텍처 간에 이식 가능한가?
• RQ3 제안된 방법이 표준 이미지 분류 벤치마크에서 최신 기술 수준 또는 그에 가까운 분류 정확도를 달성할 수 있는가?
• RQ4 정확도와 탐색 비용 측면에서 기존의 자동화된 데이터 증강 방법과 비교해 학습된 정책의 성능는 어떻게 되는가?

주요 결과

• BO-Aug는 800회의 실제 평가만으로도 CIFAR-10, CIFAR-100 및 SVHN에서 최신 기술 수준 또는 그에 가까운 분류 정확도를 달성한다. 이는 AutoAugment가 요구하는 15,000회의 평가의 6% 미만이다.
• 감소된 데이터셋(예: CIFAR-10의 10%)에서 BO-Aug의 성능는 최신 기술 수준의 준지도 학습 방법과 유사하여, 자료 부족 조건 하에서도 뛰어난 효과성을 보여준다.
• 한 데이터셋에서 학습된 최적의 데이터 증강 정책(예: Reduced CIFAR-10)은 다양한 아키텍처, 특히 Wide ResNet과 Shake-Shake 네트워크에서 동일한 데이터셋뿐 아니라 CIFAR-100과 같은 다른 데이터셋에서도 성능 향상을 잘 이끌어내어 잘 일반화됨을 보여준다.
• BO 탐색의 수렴은 일반적으로 100회 이내의 반복 수에서 이루어지며, 분류 오차는 첫 20~30회의 평가 동안 급격히 감소한다.
• 정책 탐색을 위한 총 훈련 시간은 AutoAugment의 시간의 6% 미만으로 줄어들었으며, BO 알고리즘 자체의 오버헤드는 거의 없었다.
• 아키텍처와 데이터셋 간의 정책 이식 가능성은 학습된 정책가 일반화 가능한 데이터 증강 전략을 캡처하고 있으며, 원래의 훈련 설정을 초월해 적용 가능한 가능성을 시사한다.