[논문 리뷰] Versatile Auxiliary Classifier with Generative Adversarial Network (VAC+GAN), Multi Class Scenarios

Shabab Bazrafkan, Peter Corcoran|arXiv (Cornell University)|2018. 06. 19.

Anomaly Detection Techniques and Applications참고 문헌 11인용 수 11

한 줄 요약

이 논문은 분류기와 생성기 간의 분리된 구조를 통해 다중 클래스 환경에서 조건부 딥 생성기를 훈련하기 위한 유연한 프레임워크인 VAC+GAN을 제안한다. 이는 생성기로의 분류 손실 역전파를 통해 분류 성능을 향상시키며, 다양한 GAN 아키텍처에서 74.49%의 분류 정확도를 달성하여 ACGAN의 71.89%를 능가한다. 이는 GAN 아키텍처와 분류기 설계의 유연성을 유지하면서도 클래스 간 분리도를 향상시킨다.

ABSTRACT

Conditional generators learn the data distribution for each class in a multi-class scenario and generate samples for a specific class given the right input from the latent space. In this work, a method known as "Versatile Auxiliary Classifier with Generative Adversarial Network" for multi-class scenarios is presented. In this technique, the Generative Adversarial Networks (GAN)'s generator is turned into a conditional generator by placing a multi-class classifier in parallel with the discriminator network and backpropagate the classification error through the generator. This technique is versatile enough to be applied to any GAN implementation. The results on two databases and comparisons with other method are provided as well.

연구 동기 및 목표

• 다양한 GAN 아키텍처에서 다중 클래스 딥 생성 모델의 조건부 생성기 훈련을 위한 탄력적인 방법을 개발하는 것.
• ACGAN와 같이 분류기를 디스criminator에 묶어 고정하는 기존 방법의 아키텍처 및 손실 함수 제약을 극복하는 것.
• 모든 GAN 변종이 조건부 생성을 지원할 수 있도록 분류기를 디스criminator에서 분리하는 것.
• 클래스 간 분포 간 제닝-شير단 발산을 최대화하여 생성 샘플 간의 클래스 간 구분도를 향상시키는 것.
• 다양한 데이터셋과 GAN 아키텍처에서 정량적 비교를 통해 방법의 유효성을 검증하는 것.

제안 방법

• GAN 프레임워크 내 디스criminator 네트워크와 병렬로 다중 클래스 분류기를 추가한다.
• 생성기에서 생성된 샘플에 대해 분류기 손실을 카테고리형 교차 엔트로피 손실로 훈련시킨다.
• 분류 오차를 생성기로 역전파하여 조건부 생성의 엔드 투 엔드 훈련을 가능하게 한다.
• 생성기는 GAN 손실과 분류기 손실을 동시에 최적화함으로써 클래스 특화 샘플을 생성하도록 학습된다.
• 이 방법은 원래 GAN의 손실 함수 및 아키텍처와 분리되어 있어, 모든 GAN 변종과 호환 가능하다.
• 이론적 분석을 통해 이 방법이 클래스 분포 간 제닝-셔단 발산을 증가시켜 클래스 간 분리도를 향상시킨다는 것을 입증한다.

실험 결과

연구 질문

• RQ1 모든 GAN 프레임워크에서 조건부 생성을 가능하게 하는 일반적이고 아키텍처에 종속되지 않는 방법을 개발할 수 있는가?
• RQ2 제안된 VAC+GAN 프레임워크는 ACGAN에 비해 생성 샘플 간의 클래스 간 구분도를 어떻게 향상시키는가?
• RQ3 분류기를 디스criminator에서 분리함으로써 훈련의 탄력성과 성능 향상은 어느 정도 이루어지는가?
• RQ4 VAC+GAN 방법은 CIFAR-10과 같은 다중 클래스 벤치마크에서 생성 품질과 분류 정확도를 유지하거나 향상시키는가?
• RQ5 이 방법은 클래스 수가 많고 해상도가 높은 이미지를 포함한 데이터셋에 효과적으로 적용될 수 있는가?

주요 결과

• VAC+GAN은 200 에포크 훈련 후 CIFAR-10 데이터셋에서 74.49%의 분류 정확도를 달성하여 ACGAN의 71.89%를 능가했다.
• VAC+GAN의 혼동 행렬은 ACGAN에 비해 더 나은 클래스별 예측 성능을 보여, 개선된 클래스 간 분리도를 확인했다.
• 이 방법은 클래스 분포 간 제닝-셔단 발산을 성공적으로 증가시켜 생성 샘플 내 클래스 간 구분도 향상됨을 확인했다.
• VAC+GAN은 분류기가 디스criminator의 구조와 손실 함수에 종속되지 않기 때문에, 모든 GAN 아키텍처와 손실 함수와 호환된다.
• ACGAN가 디스criminator 설계에 제약을 두는 것과는 달리, VAC+GAN은 분류기 아키텍처 선택에 대해 탄력적인 선택이 가능하다.
• 이 방법은 분류기 손실을 생성기로 역전파함으로써 조건부 생성기의 엔드 투 엔드 훈련을 가능하게 하여, 클래스 특화 생성을 보장한다.