[논문 리뷰] A Survey of Automated Data Augmentation Algorithms for Deep Learning-based Image Classification Tasks

Zihan Yang, Richard Sinnott외 2명|arXiv (Cornell University)|2022. 06. 14.

Advanced Neural Network Applications인용 수 4

한 줄 요약

이 종합적 서베이는 딥러닝 기반 이미지 분류를 위한 자동 데이터 증강(AutoDA) 기법에 대해 종합적인 분석을 제공하며, 검색 공간, 알고리즘, 평가 함수 기반으로 방법을 체계적으로 분류한다. AutoDA는 증강 정책 설계 시 인간의 편향을 줄이는 데 유망한 솔루션으로 간주되며, AutoAugment 및 RandAugment와 같은 방법들이 데이터에서 직접 최적의 정책을 학습함으로써 불균형하거나 노이즈가 많은 데이터셋에서 모델의 정확도와 강건성을 크게 향상시키는 최신 기술 성과를 달성한다.

ABSTRACT

In recent years, one of the most popular techniques in the computer vision community has been the deep learning technique. As a data-driven technique, deep model requires enormous amounts of accurately labelled training data, which is often inaccessible in many real-world applications. A data-space solution is Data Augmentation (DA), that can artificially generate new images out of original samples. Image augmentation strategies can vary by dataset, as different data types might require different augmentations to facilitate model training. However, the design of DA policies has been largely decided by the human experts with domain knowledge, which is considered to be highly subjective and error-prone. To mitigate such problem, a novel direction is to automatically learn the image augmentation policies from the given dataset using Automated Data Augmentation (AutoDA) techniques. The goal of AutoDA models is to find the optimal DA policies that can maximize the model performance gains. This survey discusses the underlying reasons of the emergence of AutoDA technology from the perspective of image classification. We identify three key components of a standard AutoDA model: a search space, a search algorithm and an evaluation function. Based on their architecture, we provide a systematic taxonomy of existing image AutoDA approaches. This paper presents the major works in AutoDA field, discussing their pros and cons, and proposing several potential directions for future improvements.

연구 동기 및 목표

• 딥러닝에서 인간이 설계한 데이터 증강 정책의 주관성과 비효율성을 해결하기 위해.
• 이미지 분류를 위한 기존 자동화된 데이터 증강(AutoDA) 접근법을 체계화하기 위해.
• 다양한 방법들 간의 AutoDA의 핵심 구성 요소인 검색 공간, 검색 알고리즘, 평가 함수를 규명하기 위해.
• AutoDA 기법에서 정확도, 효율성, 강건성 간의 상호 상충 관계를 평가하기 위해.
• 미래 연구 방향, 특히 객체 검출 및 NLP 분야 응용과 함께 노이즈가 많거나 불균형한 데이터 처리를 위한 연구 방향을 제시하기 위해.

제안 방법

• 학습 및 검색 단계에 따라 AutoDA 방법을 일단계 및 이단계 파이프라인으로 분류한다.
• 검색 알고리즘을 기울기 없는(예: 강화학습, 진화 전략), 기울기 기반(예: 미분 가능 아키텍처 탐색), 검색 없는(예: 무작위 검색, 신경망 아키텍처 탐색)으로 분류한다.
• 검색 공간의 구조를 분석하며, 이는 이미지 변환 함수의 종류와 조합(예: 회전, 스케일링, 색상 왜곡)을 포함한다.
• CIFAR-10/100 및 ImageNet에서의 상위-1 정확도와 같은 표준 지표를 사용해 성능을 평가한다.
• 정책 탐색을 이끄는 평가 함수를 검토하며, 이는 검증 정확도와 자기지도 대비 학습 기반 평가를 포함한다.
• 계산 비용, 검색 공간 복잡도, 레이블 노이즈 및 데이터 불균형에 대한 강건성 측면에서 AutoDA 방법을 비교한다.

실험 결과

연구 질문

• RQ1 자동화된 데이터 증강은 어떻게 이미지 분류에서 전문가가 설계한 증강 정책에 대한 의존도를 줄일 수 있는가?
• RQ2 표준 AutoDA 파이프라인을 정의하는 데 핵심이 되는 아키텍처적 및 알고리즘적 구성 요소는 무엇인가?
• RQ3 기울기 없는, 기울기 기반, 검색 없는 다양한 검색 전략 간의 효율성과 성능을 비교하면 어떻게 되는가?
• RQ4 AutoDA는 노이즈가 많거나 불균형한 데이터셋에서 모델의 강건성을 어느 정도 향상시킬 수 있는가?
• RQ5 객체 검출 및 NLP를 포함한 이미지 분류 외 분야에서 AutoDA의 잠재적 응용은 무엇인가?

주요 결과

• AutoAugment는 강화학습을 통해 증강 정책을 학습함으로써 CIFAR-10/100 및 ImageNet에서 최신 기술 성과를 달성한 최초의 AutoDA 방법이었다.
• RandAugment는 균일하게 샘플링된 하이퍼파rameter를 가진 단순화된 고정 깊이의 검색 공간을 사용함으로써 훨씬 더 짧은 검색 시간에 경쟁 가능한 정확도를 달성했다.
• DADA 및 스케일 인식 AutoAugment와 같은 AutoDA 방법들은 바운딩 박스 수준의 데이터에 맞춰 증강을 적응시키고, 사전 훈련된 백본을 활용함으로써 객체 검출에서 향상된 성능을 보였다.
• AutoDA에서 자기지도 평가 함수는 특히 데이터가 적은 환경에서 일반화 능력을 향상시키는 데 기여했다.
• 불균형하거나 노이즈가 많은 데이터셋에서 전통적인 수작업 기반 정책보다 AutoDA 모델이 더 뛰어난 성능을 보이며 데이터 품질 문제에 대한 강건성을 입증했다.
• 이 서베이는 향후 AutoDA 연구에서 증강 정책의 정확도, 효율성, 안전성을 균형 있게 고려할 필요성이 크다는 점을 규명했다.