[논문 리뷰] DialogWAE: Multimodal Response Generation with Conditional Wasserstein Auto-Encoder

Xiaodong Gu, Kyunghyun Cho외 2명|arXiv (Cornell University)|2018. 05. 31.

Topic Modeling참고 문헌 32인용 수 33

한 줄 요약

이 논문은 대화 응답 생성을 향상시키기 위해 생성적 적대적 네트워크(GAN)와 가우시안 혼합 사전을 사용하여 잠재 공간을 모델링하는 조건부 워셔스타인 오토에인드어(Conditional Wasserstein Autoencoder, DialogWAE)를 제안한다. 이는 SwitchBoard 및 DailyDialog 데이터셋에서 최신 기술 기반 VAE 모델보다 더 일관되고 다양한, 정보가 풍부한 응답을 생성할 수 있다.

ABSTRACT

Variational autoencoders~(VAEs) have shown a promise in data-driven conversation modeling. However, most VAE conversation models match the approximate posterior distribution over the latent variables to a simple prior such as standard normal distribution, thereby restricting the generated responses to a relatively simple (e.g., unimodal) scope. In this paper, we propose DialogWAE, a conditional Wasserstein autoencoder~(WAE) specially designed for dialogue modeling. Unlike VAEs that impose a simple distribution over the latent variables, DialogWAE models the distribution of data by training a GAN within the latent variable space. Specifically, our model samples from the prior and posterior distributions over the latent variables by transforming context-dependent random noise using neural networks and minimizes the Wasserstein distance between the two distributions. We further develop a Gaussian mixture prior network to enrich the latent space. Experiments on two popular datasets show that DialogWAE outperforms the state-of-the-art approaches in generating more coherent, informative and diverse responses.

연구 동기 및 목표

• 간단한 사전 분포로 인해 발생하는 후행 분포 붕괴와 단일 모odal 응답 생성 등의 VAE 기반 대화 모델의 한계를 해결한다.
• 이산 텍스트 토큰에 대한 강화 학습 및 GAN 기반 학습의 불안정성과 높은 분산 문제를 해결한다.
• 잠재 공간의 사전 분포를 가우시안 혼합 모델로 모델링하여 더 rich하고 다중 모odal 잠재 표현을 가능하게 한다.
• 잠재 공간 내 사전 분포와 후행 분포 간의 워셔스타인 거리 최소화를 통해 응답 품질을 향상시킨다.
• 원시 텍스트가 아닌 잠재 변수에서 작동하는 GAN 기반 프레임워크를 개발하여 텍스트 생성을 위한 안정적이고 효과적인 학습을 가능하게 한다.

제안 방법

• 컨텍스트 기반의 노이즈를 잠재 변수로 매핑하는 조건부 워셔스타인 오토에인드어(WAE)를 신경망을 사용해 학습한다.
• 잠재 변수의 사전 분포와 후행 분포 간의 워셔스타인 거리 최소화를 통해 분포 일치를 향상시킨다.
• 잠재 공간 내 다중 모달 분포를 모델링하기 위해 가우시안 혼합 사전 네트워크를 도입하여 다양한 응답 스타일과 주제를 포착한다.
• 잠재 공간의 판별자(discriminator)를 사용하여 사전과 후행 분포 간의 분포 일致성을 강제로 확보하며, 표준 VAE의 재구성 손실을 대체한다.
• 학습된 사전에서 샘플링하여 컨텍스트에 조건부로 설정된 생성자 네트워크를 통해 응답을 생성한다.
• 이산 토큰에 직접 최적화하지 않고도 안정적이고 효과적인 텍스트 생성을 가능하게 하기 위해 잠재 공간에서 GAN 기반의 적대적 목표를 적용한다.

실험 결과

연구 질문

• RQ1 변량 오토에인드어의 잠재 공간에서 GAN 기반 접근이 대화 생성의 응답 다양성과 일관성 향상에 기여하는가?
• RQ2 가우시안 혼합 사전으로 사전 분포를 모델링할 경우 단순한 사전보다 다중 모달 응답 패턴을 더 잘 포착할 수 있는가?
• RQ3 워셔스타인 거리 손실은 후행 분포 붕괴를 줄이고 응답 품질을 향상시키는 데 있어 표준 VAE 목표함수와 비교해 어떻게 성능을 발휘하는가?
• RQ4 이산 토큰에 직접 최적화하지 않고도 잠재 공간에서의 적대적 학습이 안정적이고 효과적인 텍스트 생성을 가능하게 하는가?
• RQ5 가우시안 혼합 사전은 어조, 감정, 주제 등의 응답 속성에 대한 해석 가능성과 분리 가능성(Disentanglement)을 어느 정도 향상시키는가?

주요 결과

• DialogWAE는 SwitchBoard 및 DailyDialog 데이터셋에서 BLEU, 워드 임베딩 유사도, 독립 n-그램 지표 측면에서 최신 기술 기반 VAE 모델(CVAE-CO 및 VHCR)을 모두 능가한다.
• 가우시안 혼합 사전을 사용하는 DialogWAE-GMP 버전은 DailyDialog 데이터셋에서 인간 평가에서 가장 높은 점수를 기록했다: 일관성 31.6%, 다양성 29.2%, 정보성 29.6%.
• 인간 평가 결과, DialogWAE-GMP는 일관성, 다양성, 정보성 세 가지 기준 모두에서 CVAE-CO 및 VHCR 모델보다 유의미하게 더 자주 최고로 선택되었다.
• 가우시안 혼합 사전은 응답 유형을 명확히 분리한다: 구성 요소 1은 확인 응답을 생성하고, 구성 요소 2는 불확실성을 표현하며, 구성 요소 3은 부정적인 응답을 생성하며, 상호 간 중복은 최소화된다.
• 잠재 공간 내 의미 있고 분리된 표현을 학습함으로써 후행 분포 붕괴를 성공적으로 완화하였으며, 가우시안 구성 요소 간의 응답 패턴이 뚜렷하게 구분됨을 통해 이를 입증하였다.
• 잠재 공간에 GAN을 적용함으로써 강화 학습이나 미분 가능한 텍스트 생성 기법 없이도 안정적인 학습과 향상된 샘플 품질을 달성하였다.