[논문 리뷰] AutoMix: Unveiling the Power of Mixup.

Zicheng Liu, Siyuan Li외 5명|arXiv (Cornell University)|2021. 03. 24.

Domain Adaptation and Few-Shot Learning참고 문헌 26인용 수 5

한 줄 요약

AutoMix는 분류 특징을 사용하여 자동으로 샘플 혼합 정책을 학습하는 종단간, 적응형 믹스업 프레임워크를 제안한다. 이는 믹스업을 두 가지 하위 문제인 합성 샘플 생성과 믹스업 분류로 간주하는 사전 과제로 프레임워크를 설정한다. 모멘텀 기반 훈련 파이pline을 통해 일반화 성능을 향상시켜 여섯 가지 벤치마크에서 기존 믹스업 방법들을 능가한다.

ABSTRACT

Mixup-based data augmentation has achieved great success as regularizer for deep neural networks. However, existing mixup methods require explicitly designed mixup policies. In this paper, we present a flexible, general Automatic Mixup (AutoMix) framework which utilizes discriminative features to learn a sample mixing policy adaptively. We regard mixup as a pretext task and split it into two sub-problems: mixed samples generation and mixup classification. To this end, we design a lightweight mix block to generate synthetic samples based on feature maps and mix labels. Since the two sub-problems are in the nature of Expectation-Maximization (EM), we also propose a momentum training pipeline to optimize the mixup process and mixup classification process alternatively in an end-to-end fashion. Extensive experiments on six popular classification benchmarks show that AutoMix consistently outperforms other leading mixup methods and improves generalization abilities to downstream tasks. We hope AutoMix will motivate the community to rethink the role of mixup in representation learning. The code will be released soon.

연구 동기 및 목표

• 기존 믹스업 방법이 수작업으로 정의된 고정된 혼합 정책에 의존하는 한계를 해결하기 위해.
• 분류 특징 기반으로 자동적이고 적응적인 샘플 혼합 전략 학습을 가능하게 하기 위해.
• 믹스업을 위한 통합적이고 종단간 훈련 프레임워크를 통해 딥 신경망의 일반화 성능 향상시키기 위해.
• 믹스업을 샘플 생성과 분류를 포함하는 사전 과제로 재정의하기 위해.
• 탄력적이고 학습 가능한 프레임워크를 통해 표현 학습에서 믹스업의 역할을 재고하기 위해.

제안 방법

• AutoMix는 믹스업을 두 부분으로 나누어 사전 과제로 간주한다: 특징 맵에서 혼합 샘플을 생성하고, 혼합된 샘플을 분류한다.
• 특징 맵과 레이블 보간을 사용하여 합성 샘플과 혼합 레이블을 생성하는 경량 믹스 블록을 도입한다.
• 기대값-최대화(EM) 유사 최적화 전략을 활용하여 혼합 샘플 생성과 분류 개선을 번갈아 수행한다.
• 종단간 훈련 중 두 하위 문제의 공동 최적화를 안정화하고 향상시키기 위해 모멘텀 훈련 파이pline을 사용한다.
• 사전 정의된 하이퍼파라미터 없이 특징 수준의 표현을 활용하여 혼합 정책을 적응적으로 학습한다.
• 전체 과정은 종단간으로 훈련되어 데이터로부터 최적의 혼합 패턴을 학습할 수 있도록 한다.

실험 결과

연구 질문

• RQ1 수작업으로 설계된 것이 아니라 데이터로부터 자동으로 믹스업 정책을 학습할 수 있는가?
• RQ2 샘플 생성과 분류를 공동으로 학습함으로써 믹스업 과정을 종단간으로 최적화할 수 있는가?
• RQ3 적응적이고 특징 기반 믹스업 전략이 최종 분류 작업의 일반화 성능을 향상시키는가?
• RQ4 생성과 분류 사이의 EM 유사 번갈아 최적화가 표준 믹스업에 비해 모델 성능을 향상시키는가?
• RQ5 AutoMix는 다양한 벤치마크에서 기존 최첨단 믹스업 방법들을 얼마나 뛰어나게 성능을 냈는가?

주요 결과

• AutoMix는 여섯 가지 인기 있는 이미지 분류 벤치마크에서 다른 최첨단 믹스업 방법들을 일관되게 능가한다.
• 분류 특징에서 유도된 적응적 혼합 정책을 학습함으로써, 최종 작업에서 모델의 일반화 능력을 향상시킨다.
• 모멘텀 기반 훈련 파이pline은 믹스업 과정의 안정적이고 효과적인 종단간 최적화를 가능하게 한다.
• 믹스업을 사전 과제로 프레임워크화함으로써 샘플 생성과 분류의 공동 최적화를 통해 더 나은 표현 학습을 달성한다.
• 절단 실험을 통해 제안된 방법의 설계 선택 사항, 특히 믹스 블록과 모멘텀 훈련이 성능 향상에 핵심적임을 확인한다.