[논문 리뷰] Adversarially Regularized Autoencoders

Junbo Zhao, Yoon Kim외 3명|arXiv (Cornell University)|2017. 06. 13.

Generative Adversarial Networks and Image Synthesis참고 문헌 50인용 수 38

한 줄 요약

이 논문은 텍스트와 같은 이산 시퀀스에서 깊이 있는 잠재 변수 모델을 훈련하기 위해 변분 오토인코더와 잠재 공간 내 학습된 사전 분포를 통한 적대적 정규화를 조합한 적대적 정규화 오토인코더(ARAE)를 소개한다. 이 방법은 워셔스타인 오토인코더 프레임워크를 사용하여 총 변동 거리의 상한을 최소화함으로써 부드럽고 제어 가능한 텍스트 생성 및 조작을 가능하게 하며, 정렬되지 않은 텍스트 스타일 전이에서 최신 기술 수준의 성능을 달성한다.

ABSTRACT

Deep latent variable models, trained using variational autoencoders or generative adversarial networks, are now a key technique for representation learning of continuous structures. However, applying similar methods to discrete structures, such as text sequences or discretized images, has proven to be more challenging. In this work, we propose a flexible method for training deep latent variable models of discrete structures. Our approach is based on the recently-proposed Wasserstein autoencoder (WAE) which formalizes the adversarial autoencoder (AAE) as an optimal transport problem. We first extend this framework to model discrete sequences, and then further explore different learned priors targeting a controllable representation. This adversarially regularized autoencoder (ARAE) allows us to generate natural textual outputs as well as perform manipulations in the latent space to induce change in the output space. Finally we show that the latent representation can be trained to perform unaligned textual style transfer, giving improvements both in automatic/human evaluation compared to existing methods.

연구 동기 및 목표

• 표준 VAE가 종종 조건 없는 언어 모델로 붕괴하는 등, 텍스트 시퀀스와 같은 이산 구조에서 깊이 있는 잠재 변수 모델을 훈련하는 데 도전하는 문제를 해결하기 위해.
• 이산 데이터에서 GAN의 한계를 극복하기 위해 비가역적 목적 함수를 피하고, 적대적 정규화를 통해 연속적인 잠재 공간을 활용하기 위해.
• 잠재 공간에서 유연하고 파rameter화된 사전 분포를 학습함으로써 잠재 공간 내 제어 가능한 생성 및 조작을 가능하게 하기 위해.
• 정렬된 평행 데이터가 필요 없이도 감성 또는 주제 전이와 같은 정렬되지 않은 텍스트 스타일 전이 작업에서 성능을 향상시키기 위해.
• 최적 운반 이론과 분포 일치에 이론적 기반을 제공하기 위해 워셔스타인 오토인코더 프레임워크 하에서 모델을 체계화하기 위해.

제안 방법

• 모델은 이산 입력(예: 문장)을 연속적인 잠재 코드로 매핑하는 결정적 인코더와, 코드로부터 입력을 재구성하는 조건부 디코더(예: RNN)를 사용한다.
• 노이즈를 잠재 코드로 매핑하는 생성자 네트워크를 통해 인코더의 출력 분포를 모방하도록 훈련된 학습된 사전 분포를 도입한다.
• 재구성 손실(교차 엔트로피)과 워셔스타인 거리 기반 적대적 손실을 조합한 훈련 목표 함수를 사용하며, 데이터 분포와 모델 분포 사이의 총 변동 거리의 상한을 최소화한다.
• 이 프레임워크는 여러 가지 사전 유형을 허용한다: 고정된 가우시안, 학습된 GAN 기반 사전, 감성 또는 주제와 같은 속성을 분리하는 데 사용되는 전이 기반 사전.
• 생성자(사전)와 비평가 사이의 최소-최대 최적화를 통해 엔드 투 엔드로 모델을 훈련하며, 비평자는 실제 잠재 코드와 생성된 코드를 구분한다.
• 잠재 공간 내의 보간과 벡터 산술을 사용하여 감성이나 주제를 변경하면서도 내용을 유지하는 등 의미적으로 유의미한 문장 조작을 생성한다.

실험 결과

연구 질문

• RQ1 잠재 공간 내 적대적 정규화는 이산 시퀀스를 위한 오토인코더의 훈련 안정성과 표현 품질을 향상시키는가?
• RQ2 잠재 공간 내 학습된 GAN 기반 사전은 고정된 사전보다 더 나은 분리성과 제어 가능성을 텍스트 생성에 제공하는가?
• RQ3 ARAE 모델은 정렬된 평행 데이터가 없이도 감성 전이와 같은 정렬되지 않은 텍스트 스타일 전이를 어느 정도 성공적으로 수행할 수 있는가?
• RQ4 워셔스타인 오토인코더 프레임워크는 이산 잠재 변수 모델에 대해 이론적으로 타당하고 효과적인 목표 함수를 제공하는가?
• RQ5 다양한 사전 설계(Gaussian, 학습된, 전이 기반)는 생성된 시퀀스의 품질과 제어 가능성에 어떤 영향을 미치는가?

주요 결과

• ARAE 모델은 정렬되지 않은 감성 전이에서 최신 기술 수준의 성능을 달성하였으며, 자동 평가 및 인간 평가 모두에서 이전 방법들을 능가한다.
• 잠재 공간 내 보간과 벡터 산술은 감성은 유지하면서 내용을 그대로 유지하는 등 의미적으로 일관된 문장 조작을 생성한다.
• 모델은 일관되고 제어 가능한 생성을 다양한 텍스트 구조에서 가능하게 하는 부드럽고 분리된 잠재 공간을 학습한다.
• 잠재 공간 내 GAN을 통한 학습된 사전을 사용함으로써 표준 가우시안과 같은 고정 사전보다 생성 품질과 다양성이 크게 향상된다.
• 이론적 분석 결과, 교차 엔트로피 재구성 손실은 모델과 데이터 분포 사이의 총 변동 거리의 상한을 제공하며, 타당한 최적화 목표로 기능한다.
• 이진 MNIST와 짧은 텍스트 시퀀스에 대한 실험을 통해 모델이 다양하고 고품질의 샘플을 생성하고 입력 공간을 효과적으로 커버함을 확인하였다.