[논문 리뷰] Data Augmentation Using GANs

Fabio Henrique Kiyoiti dos Santos Tanaka, Claus Aranha|arXiv (Cornell University)|2019. 04. 19.

Digital Media Forensic Detection참고 문헌 12인용 수 143

한 줄 요약

논문은 생성적 적대 신경망(GAN)을 사용하여 분류기 학습을 위한 합성 수치 데이터 생성 및 불균형 데이터 세트 균형화를 수행함; 결과는 일부 경우 원 데이터와 비교해 경쟁력 있는 정확도/재현율을 보이고 베이스라인 대비 개선되나, 매우 불균형한 작업에서는 SMOTE/ADASYN이 GAN 기반 오버샘플링을 능가할 수 있음.

ABSTRACT

In this paper we propose the use of Generative Adversarial Networks (GAN) to generate artificial training data for machine learning tasks. The generation of artificial training data can be extremely useful in situations such as imbalanced data sets, performing a role similar to SMOTE or ADASYN. It is also useful when the data contains sensitive information, and it is desirable to avoid using the original data set as much as possible (example: medical data). We test our proposal on benchmark data sets using different network architectures, and show that a Decision Tree (DT) classifier trained using the training data generated by the GAN reached the same, (and surprisingly sometimes better), accuracy and recall than a DT trained on the original data set.

연구 동기 및 목표

• 데이터 증강이 불균형 데이터 세트와 프라이버시 문제를 해결하기 위한 동기를 부여한다.
• GAN-생성 합성 데이터를 분류기 학습 데이터로 평가한다.
• GAN 기반 오버샘플링을 SMOTE와 ADASYN와 비교한다.
• 수치형 표 데이터에 대해 효과적인 합성 데이터를 생성하는 GAN 아키텍처를 식별한다.

제안 방법

• 원 데이터 분포를 반영하는 합성 수치 데이터를 생성하기 위해 GAN을 활용한다.
• 합성 데이터로 의사 결정 트리(Decision Tree) 분류기를 학습시키고 원 데이터 학습과 비교한다.
• 네트워크 깊이와 너비를 변화시키며 여섯 가지 GAN 구성으로 실험한다.
• GAN 학습 전에 데이터를 [0,1]로 스케일링하는 미니맥스 스케일링으로 데이터 균형을 맞춘다.
• 합성 데이터와 원래 데이터 포인트 간의 평균 유클리드 거리를 통해 유사성을 평가한다.

실험 결과

연구 질문

• RQ1 GAN-생성 합성 데이터가 원 데이터 학습에 비해 동등하거나 더 나은 성능으로 분류기 학습에 사용될 수 있는가?
• RQ2 GAN이 SMOTE 및 ADASYN과 비교하여 불균형 데이터를 효과적으로 균형화할 수 있는가?
• RQ3 수치형 비이미지 데이터 세트에서 최상의 성능을 내는 GAN 아키텍처(깊이/너비)는 무엇인가?
• RQ4 합성 데이터가 원래 데이터 속성의 직접 누출을 줄여 프라이버시를 개선하는가?

주요 결과

• 256/512층 GAN 아키텍처가 일반적으로 데이터 세트 전반에 걸쳐 최상의 결과를 낸 것으로 나타났으며 정확도에 대해 통계적 유의성(p<0.05)을 보였다.
• 일부 경우 GAN-합성 데이터로 학습된 분류기가 원 데이터로 학습된 경우와 유사하거나 더 나은 정확도 및 정밀도를 달성했다.
• GAN 기반 오버샘플링은 원래 불균형 데이터에 대해 개선된 결과를 보였으나, 고도로 불균형한 작업(예: 신용카드 사기)에서 SMOTE 또는 ADASYN을 지속적으로 능가하지 못했고 특히 재현율에 민감한 설정에서 그 차이가 나타났다.
• 완전히 합성 데이터로의 학습은 GAN 학습 중 명시적 클래스 분리 없이도 클래스 분포와 속성을 보존하는 경우가 있다.
• 유클리드 거리 분석은 합성 데이터가 원본과 충분히 구분될 수 있어 프라이버시 이점을 제공할 수 있음을 시사하며, 특히 암(cancer) 데이터 세트에서 그렇다.