[논문 리뷰] Understanding and Improving Interpolation in Autoencoders via an Adversarial Regularizer

David Berthelot, Colin Raffel외 2명|arXiv (Cornell University)|2018. 07. 19.

Model Reduction and Neural Networks인용 수 91

한 줄 요약

이 논문은 ACAI를 도입합니다. 이는 적대적 규제기를 통해 크리틱이 보간 계수를 예측하도록 학습시키고, 자동인코더를 속여 크리틱이 보간으로 보이지 않게 만듭니다. 그 결과 보간 품질이 현저히 향상되고 다운스트림 작업을 위한 잠재 표현이 개선됩니다.

ABSTRACT

Autoencoders provide a powerful framework for learning compressed representations by encoding all of the information needed to reconstruct a data point in a latent code. In some cases, autoencoders can "interpolate": By decoding the convex combination of the latent codes for two datapoints, the autoencoder can produce an output which semantically mixes characteristics from the datapoints. In this paper, we propose a regularization procedure which encourages interpolated outputs to appear more realistic by fooling a critic network which has been trained to recover the mixing coefficient from interpolated data. We then develop a simple benchmark task where we can quantitatively measure the extent to which various autoencoders can interpolate and show that our regularizer dramatically improves interpolation in this setting. We also demonstrate empirically that our regularizer produces latent codes which are more effective on downstream tasks, suggesting a possible link between interpolation abilities and learning useful representations.

연구 동기 및 목표

• 오토인코더에서의 보간을 형식화하고 개선한다.
• 현실적인 보간을 강제하는 적대적 규제기를 제안한다.
• 보간 품질에 대한 정량적 벤치마크를 만든다.
• 향상된 보간이 분류 및 클러스터링과 같은 다운스트림 작업에 이점을 준다는 것을 보여준다.

제안 방법

• 볼록 잠재 코드 혼합과 현실적인 재구성을 통해 오토인코더 보간을 정의한다.
• 보간된 재구성으로부터 보간 계수를 예측하는 크리틱 네트워크를 도입한다.
• 보간이 비보간 재구성으로 보이도록 크리틱을 속이도록 오토인코더를 학습시킨다.
• 보간 품질을 정량화하기 위해 평균 거리와 부드러움 지표를 포함한 간단한 벤치마크(오토인코딩 선들)를 제공한다.
• 벤치마크에서 다양한 오토인코더 아키텍처(베이스라인, 드롭아웃, 디노이징, VAE, AAE, VQ-VAE)를 비교한다.
• ACAI가 보간 및 다운스트림 작업 성능을 향상시킨다고 보인다.

실험 결과

연구 질문

• RQ1 적대적 규제기가 오토인코더에서 더 높은 품질의 더 현실적인 보간을 촉진할 수 있는가?
• RQ2 향상된 보간이 감독 학습 분류 및 클러스터링을 위한 더 나은 잠재 표현과 상관관계가 있는가?
• RQ3 제어된 보간 벤치마크에서 ACAI가 표준 오토인코더 및 다른 잠재(규제) 오토인코더와 어떻게 비교되는가?
• RQ4 보간 품질과 다운스트림 표현 유용성 사이에 검출 가능한 연결고리가 있는가?

주요 결과

• ACAI는 합성 선 벤치마크에서 가장 높은 평균 거리와 부드러움 점수를 달성하여 다른 오토인코더 변형을 능가한다.
• ACAI로 학습된 잠재 표현은 MNIST, SVHN, CIFAR-10에서 단일 은닉층 분류기 정확도를 크게 향상시키며(특히 SVHN의 256-d 잠재에서 ACAI 85.14% vs 베이스라인 22.74%), 성능이 개선된다.
• ACAI는 다른 모델에 비해 잠재 공간에서 군집화 정확도가 더 나은 경우가 많다(MNIST 및 SVHN).
• 노이즈 제거 오토인코더와 VAE는 일부 설정에서 좋은 성능을 보일 수 있지만, ACAI는 일관된 보간 개선과 경쟁력 있는 다운스트림 작업 성능을 제공한다.
• 실제 이미지 데이터셋(MNIST, SVHN, CelebA) 전반에 걸쳐 ACAI는 일반적으로 베이스라인에 비해 현실적이고 매끄러운 보간을 생성하는 경향이 있다.