[논문 리뷰] Neural Text Generation: Past, Present and Beyond

Sidi Lu, Yaoming Zhu외 3명|arXiv (Cornell University)|2018. 03. 15.

Topic Modeling참고 문헌 31인용 수 54

한 줄 요약

tldr: 이 논문은 신경 텍스트 생성 모델을 조사하고, 학습 패러다임(MLE, RL, 적대적 학습)을 비교하며, 이미지 캡션 및 장문 텍스트 태스크에서 여러 모델을 벤치마킹하고, 강점과 한계점을 강조한다.

ABSTRACT

This paper presents a systematic survey on recent development of neural text generation models. Specifically, we start from recurrent neural network language models with the traditional maximum likelihood estimation training scheme and point out its shortcoming for text generation. We thus introduce the recently proposed methods for text generation based on reinforcement learning, re-parametrization tricks and generative adversarial nets (GAN) techniques. We compare different properties of these models and the corresponding techniques to handle their common problems such as gradient vanishing and generation diversity. Finally, we conduct a benchmarking experiment with different types of neural text generation models on two well-known datasets and discuss the empirical results along with the aforementioned model properties.

연구 동기 및 목표

• RNNLM에서 RL 및 GAN 기반 방법으로의 신경 텍스트 생성의 진화를 검토한다.
• 학습 패러다임(MLE, 강화 학습, 적대적 학습)과 그들의 트레이드오프를 분석한다.
• 표준 데이터셋에서 대표적인 NTG 모델을 벤치마킹하고 실증적 발견을 논의한다.
• 일반적인 문제점(노출 편향, 그래디언트 소실, 모드 붕괴)을 식별하고 제안된 해결책을 제시한다.

제안 방법

• MLE, RL 및 적대 학습 프레임워크를 포함한 NTG 방법에 대한 체계적 문헌 리뷰.
• 노출 편향 및 생성 다양성 문제를 다루는 기법 비교.
• Texygen 플랫폼을 사용한 이미지 COCO 및 EMNLP2017 WMT 데이터셋에서의 벤치마킹.
• 안정성 문제에 대한 논의와 제안된 개선책(보상 재스케일링, 랭킹 기반 판별자, 계층적 모델).

실험 결과

연구 질문

• RQ1 MLE 기반 NTG 모델이 RL- 및 GAN 기반 접근법과 비교했을 때 품질과 다양성 면에서 어떤 차이가 있는가?
• RQ2 NTG 모델에서 노출 편향, 그래디언트 소실, 모드 붕괴를 완화하는 기술은 무엇인가?
• RQ3 다양한 NTG 아키텍처(SeqGAN, RankGAN, MaliGAN, LeakGAN, MaskGAN, TextGAN)가 짧은 텍스트 대 장문 텍스트 생성 태스크에서 어떻게 성능을 보이는가?
• RQ4 Image COCO 및 WMT와 같은 데이터셋 간 벤치마킹에서 어떤 행동 양상이 나타나는가?

주요 결과

• LeakGAN은 장문 텍스트 생성 데이터셋에서 강한 BLEU 성능을 보인다.
• SeqGAN은 짧은 텍스트 생성에서 뛰어나지만 다양성 및 그래디언트 소실에 어려움을 겪는다.
• MaliGAN은 그래디언트 안정성을 향상시키고 여러 설정에서 다양성을 유지한다.
• MaskGAN과 TextGAN은 보고된 실험에서 BLEU에서 일반적으로 저조하며, TextGAN은 장문 생성에서 심각한 모드 붕괴를 보인다.
• MLE는 여전히 강력한 베이스라인으로 남아 있으며, 짧은 텍스트에서 일부 GAN/RL 변형에 가까를 가거나 이를 능가하는 경우가 있다.
• Self-BLEU 분석은 여러 모델에서 모드 붕괴가 더욱 심함을 시사하며, TextGAN은 장문에서 특히 심한 붕괴를 보인다.