[논문 리뷰] Generalizing semi-supervised generative adversarial networks to regression.

Greg Olmschenk, Zhigang Zhu외 1명|arXiv (Cornell University)|2018. 11. 27.

Generative Adversarial Networks and Image Synthesis인용 수 3

한 줄 요약

이 논문은 기존 분류 작업을 위한 준지도 학습 GAN을 회귀로 일반화하기 위해 통계적 특징을 기반으로 진짜 데이터와 가짜 데이터를 구분할 수 있도록 하는 새로운 특징 대비 손실을 도입함으로써, 회귀 작업에서 레이블이 적은 데이터로도 뛰어난 성능을 달성한다. 이 방법은 연령 추정 및 군중 수세기와 같은 회귀 과제에서 효과적으로 작동하며, 준지도 학습 GAN이 회귀 시나리오에서 실현 가능함을 보여준다.

ABSTRACT

In this work, we generalize semi-supervised generative adversarial networks (GANs) from classification problems to regression problems. In the last few years, the importance of improving the training of neural networks using semi-supervised training has been demonstrated for classification problems. We present a novel loss function, called feature contrasting, resulting in a discriminator which can distinguish between fake and real data based on feature statistics. This method avoids potential biases and limitations of alternative approaches. The generalization of semi-supervised GANs to the regime of regression problems of opens their use to countless applications as well as providing an avenue for a deeper understanding of how GANs function. We first demonstrate the capabilities of semi-supervised regression GANs on a toy dataset which allows for a detailed understanding of how they operate in various circumstances. This toy dataset is used to provide a theoretical basis of the semi-supervised regression GAN. We then apply the semi-supervised regression GANs to a number of real-world computer vision applications: age estimation, driving steering angle prediction, and crowd counting from single images. We perform extensive tests of what accuracy can be achieved with significantly reduced annotated data. Through the combination of the theoretical example and real-world scenarios, we demonstrate how semi-supervised GANs can be generalized to regression problems.

연구 동기 및 목표

• 원래 분류 작업에 설계된 준지도 학습 GAN을 회귀 문제로 확장하기 위해.
• 기존에 효과적인 준지도 학습 방법이 부족한 회귀 문제를 해결하기 위해 새로운 손실 함수를 제안하기 위해.
• 레이블이 제한된 데이터로도 회귀 과제에서 비지도 데이터를 활용해 깊은 신경망을 훈련할 수 있도록 하기 위해.
• 제안된 방법에 대한 이론적 기초와 실재 데이터셋 및 시뮬레이션 데이터셋에서의 실험적 검증을 제공하기 위해.

제안 방법

• 클래스 레이블이 아닌 통계적 특징을 기반으로 진짜 및 가짜 데이터를 구분할 수 있도록 하는 특징 대비 손실 함수를 제안한다.
• 분류 작업에서의 GAN 프레임워크를 수정하여 분류 확률 대신 특징 수준의 통계에 집중하도록 디스criminator를 조정한다.
• 모델의 동작을 분석하고 일반화 메커니즘에 대한 이론적 통찰을 확보하기 위해 토이 데이터셋을 사용한다.
• 연령 추정, 조향 각도 예측, 군중 수세기와 같은 실세계 컴퓨터 비전 회귀 과제에 이 방법을 적용한다.
• 진짜 및 생성된 샘플 간의 특징 통계 분포의 차이를 탐지하도록 최적화된 디스criminator를 사용하여 생성자와 디스criminator를 적대적으로 훈련한다.
• 일반화 성능 향상과 저데이터 환경에서의 편향 감소를 위해 적대적 손실과 특징 대비 손실의 조합을 활용한다.

실험 결과

연구 질문

• RQ1 준지도 학습 GAN이 분류 작업에서 회귀 과제로 효과적으로 일반화될 수 있는가?
• RQ2 특징 대비 손실이 레이블이 적은 데이터에서 회귀 성능을 어떻게 향상시키는가?
• RQ3 기존 준지도 학습 회귀 접근 방식에 비해 제안된 방법이 가지는 이론적 및 실험적 이점은 무엇인가?
• RQ4 이 방법은 연령 추정 및 군중 수세기와 같은 다양한 실세계 회귀 응용 분야에서 얼마나 잘 작동하는가?

주요 결과

• 제안된 준지도 학습 회귀 GAN은 레이블이 크게 감소한 연령 추정 과제에서 뛰어난 성능을 보이며, 비지도 데이터의 효과적 활용을 입증한다.
• 적대적 훈련을 통해 비지도 데이터를 활용함으로써 주행 조향 각도 예측의 예측 정확도가 향상된다.
• 단일 이미지에서의 군중 수세기 과제는 레이블이 부족한 상황에서라도 소수의 애너테이션 샘플만으로도 일반화 능력이 뛰어난 모델의 특징을 유감없이 활용한다.
• 토이 데이터셋 분석 결과, 특징 대비 손실이 진짜 및 가짜 데이터를 특징 통계 기반으로 효과적으로 구분할 수 있음을 확인한다.
• 이론적 분석과 실세계 실험의 조합은 제안된 방법의 강건성과 일반화 능력을 검증한다.
• 결과적으로 특징 대비 손실은 기준 방법 대비 저데이터 환경에서 편향 감소와 모델 안정성 향상에 기여함을 보여준다.