[논문 리뷰] Generative Adversarial Forests for Better Conditioned Adversarial Learning

Yan Zuo, Gil Avraham외 1명|arXiv (Cornell University)|2018. 05. 14.

Adversarial Robustness in Machine Learning참고 문헌 32인용 수 4

한 줄 요약

이 논문은 표준 완전 연결 판별자 대신 결정 트리 숲을 사용하여 훈련 안정성을 향상시키는 새로운 GAN 프레임워크인 생성적 적대적 숲(GAF)을 제안한다. 결정 트리 숲을 판별자에 통합함으로써 GAF는 옥스포드 플라워스 및 시엘리브A 데이터셋에서 DCGAN, ABC-GAN 등 다른 GAN 변종보다 품질 면에서나 정량적 측면에서 뛰어난 이미지 생성 성능과 훨씬 더 안정적인 훈련을 달성한다.

ABSTRACT

In recent times, many of the breakthroughs in various vision-related tasks have revolved around improving learning of deep models; these methods have ranged from network architectural improvements such as Residual Networks, to various forms of regularisation such as Batch Normalisation. In essence, many of these techniques revolve around better conditioning, allowing for deeper and deeper models to be successfully learned. In this paper, we look towards better conditioning Generative Adversarial Networks (GANs) in an unsupervised learning setting. Our method embeds the powerful discriminating capabilities of a decision forest into the discriminator of a GAN. This results in a better conditioned model which learns in an extremely stable way. We demonstrate empirical results which show both clear qualitative and quantitative evidence of the effectiveness of our approach, gaining significant performance improvements over several popular GAN-based approaches on the Oxford Flowers and Aligned Celebrity Faces datasets.

연구 동기 및 목표

• 특히 미미한 미니맥스 최적화로 인해 발생하는 안정성 부족과 나쁜 조건화 문제를 해결하기 위해.
• 복잡한 비선형 데이터 분포를 더 잘 다룰 수 있도록 판별자의 능력을 향상시켜 GAN 훈련의 안정성을 높이기 위해.
• GAN과 결정 트리 숲을 통합하여 보다 우수한 일반화 성능을 보이는 종단간(end-to-end) 학습 가능한 새로운 프레임워크를 개발하기 위해.
• 공정하고 일반화 가능한 GAN 성능 비교를 위한 새로운 정량적 지표인 '경쟁적-GAN 조정 손실'을 도입하기 위해.
• 더 나은 조건화를 가진 판별자가 더 안정적이고 효과적인 GAN 훈련을 이끌 수 있음을 경험적으로 검증하기 위해.

제안 방법

• 표준 GAN 판별자의 최종 완전 연결 레이어를 결정 트리 숲으로 대체하여 비선형 특징 구분 능력을 향상시키기 위해.
• 결정 트리 숲의 출력에 대한 미분 가능한 근사치를 사용하여, 백프로파게이션를 통해 결정 트리 숲을 GAN의 일부로 종단간으로 훈련시키기 위해.
• 결정 트리 숲 판별자를 DCGAN 아키텍처에 통합하여 생성적 적대적 숲(GAF) 프레임워크를 구성하기 위해.
• 다양한 GAN 모델 간의 공정한 비교를 가능하게 하기 위해, 새로운 손실 조정 메커니즘을 활용해 경쟁적-GAN 조정 손실을 계산하기 위해.
• 기존의 완전 연결 레이어보다 복잡한 고차원 데이터 분포를 더 효과적으로 학습할 수 있도록 숲 기반 판별자를 적용하기 위해.
• 훈련 안정성을 평가하기 위해 판별자 손실 곡선, 검증 세트에서의 일반화 능력, 시간 경과에 따른 조건화 지표를 모니터링하기 위해.

실험 결과

연구 질문

• RQ1 표준 완전 연결 판별자를 결정 트리 숲으로 대체함으로써 GAN 훈련의 조건화와 안정성을 향상시킬 수 있는가?
• RQ2 결정 트리 숲을 GAN에 통합함으로써 더 우수한 일반화 성능과 모드 붕괴 감소를 이룰 수 있는가?
• RQ3 조정된 로그 손실 기반의 새로운 정량적 지표가 다양한 아키텍처 간의 GAN 성능 비교를 더 신뢰성 있고 추이가 있는 방식으로 가능하게 하는가?
• RQ4 GAF의 훈련 안정성은 손실 수렴과 시간 경과에 따른 일반화 능력 측면에서 DCGAN 및 ABC-GAN과 비교해 어떻게 다른가?
• RQ5 결정 트리 숲의 비선형 구분 능력이 GAN 판별자에서 선형 또는 ReLU 기반 분류기보다 얼마나 뛰어나게 작용하는가?

주요 결과

• 옥스포드 플라워스 데이터셋에서 GAF-deep는 경쟁적-GAN 조정 손실 1.40을 기록하여 DCGAN(3.14)과 ABC-GAN(2.15)을 크게 앞서며 뛰어난 성능을 보였다.
• 시엘리브A 데이터셋에서 GAF-deep는 조정 손실 1.40을 기록하여 ABC-GAN과 DCGAN 각각 1.74점 향상된 성능을 보였다.
• GAF 모델은 20만 반복 이후에도 과적합의 징후가 없이 더 안정적인 판별자 손실 곡선을 보였으며, DCGAN는 더 이른 시점부터 과적합을 보였다.
• 조건화 분석 결과, GAF는 훈련 전반에 걸쳐 잘 조건화된 기울기를 유지한 반면, DCGAN의 조건화 능력은 시간이 지남에 따라 악화되었다.
• 그림 5의 정성적 결과에서는 GAF가 WGAN 및 기타 기준 모델보다 더 높은 품질과 더 다양한 샘플을 생성하는 것으로 나타났다. 특히 세부 묘사가 뚜렷하게 구현되었다.
• 조정 손실 차이의 추이적 순서(예: GAF-deep > GAF-shallow > ABC-GAN > DCGAN)는 이 지표가 GAN 성능 순위 매기기에 신뢰할 수 있는 신뢰성을 지닌다는 것을 확인했다.