[논문 리뷰] TreeGAN: Syntax-Aware Sequence Generation with Generative Adversarial Networks

Xinyue Liu, Xiangnan Kong외 2명|arXiv (Cornell University)|2018. 08. 22.

Natural Language Processing Techniques참고 문헌 25인용 수 6

한 줄 요약

TreeGAN은 문법 구조를 모델링하기 위해 순환 신경망(RNN) 기반 생성기와 트리 구조의 RNN 판별기를 사용하는 새로운 GAN 프레임워크로, 주어진 문맥 자유 문법(CFG)에 따라 문법적으로 타당한 시퀀스를 생성한다. 이는 SeqGAN과 같은 문법 무관 GAN에 비해 심각한 문법 오류를 줄이고 의미 유사도를 향상시켜 생성 품질을 크게 향상시킨다.

ABSTRACT

Generative Adversarial Networks (GANs) have shown great capacity on image generation, in which a discriminative model guides the training of a generative model to construct images that resemble real images. Recently, GANs have been extended from generating images to generating sequences (e.g., poems, music and codes). Existing GANs on sequence generation mainly focus on general sequences, which are grammar-free. In many real-world applications, however, we need to generate sequences in a formal language with the constraint of its corresponding grammar. For example, to test the performance of a database, one may want to generate a collection of SQL queries, which are not only similar to the queries of real users, but also follow the SQL syntax of the target database. Generating such sequences is highly challenging because both the generator and discriminator of GANs need to consider the structure of the sequences and the given grammar in the formal language. To address these issues, we study the problem of syntax-aware sequence generation with GANs, in which a collection of real sequences and a set of pre-defined grammatical rules are given to both discriminator and generator. We propose a novel GAN framework, namely TreeGAN, to incorporate a given Context-Free Grammar (CFG) into the sequence generation process. In TreeGAN, the generator employs a recurrent neural network (RNN) to construct a parse tree. Each generated parse tree can then be translated to a valid sequence of the given grammar. The discriminator uses a tree-structured RNN to distinguish the generated trees from real trees. We show that TreeGAN can generate sequences for any CFG and its generation fully conforms with the given syntax. Experiments on synthetic and real data sets demonstrated that TreeGAN significantly improves the quality of the sequence generation in context-free languages.

연구 동기 및 목표

• SQL이나 파이썬과 같은 형식 언어에서 문법적으로 잘못된 출력을 자주 생성하는 기존 GAN의 문제를 해결하기 위해 고품질의 문법적으로 올바른 시퀀스를 생성하는 것.
• 사전 정의된 문맥 자유 문법(CFG) 규칙을 GAN 학습 과정에 통합하여 생성기와 판별기가 유효하고 구조화된 시퀀스 생성을 유도하는 것.
• 최대우도추정(MLE) 기반 모델을 넘어서 문법 제약 조건을 통한 적대적 학습을 활용하여 시퀀스 생성 품질을 향상시키는 것.
• 실제 시퀀스와 유사한 의미를 유지하면서도 형식 언어 규칙을 엄격히 준수하는 통합 프레임워크를 개발하는 것.

제안 방법

• 생성기는 주어진 CFG의 시작 기호를 루트로 하는 파싱 트리를 순환적으로 구성하기 위해 RNN을 사용하며, 각 노드는 비단말기로, 각 리프는 단말기 토큰으로 표현된다.
• 생성된 각 파싱 트리는 중위순회(in-order traversal)를 통해 문법에 부합하는 유효한 시퀀스로 변환되며, 이는 구조적 구성에 의해 문법적 정확성이 보장된다.
• 판별기는 생성된 파싱 트리의 진위성을 평가하기 위해 트리 구조의 RNN을 사용하며, 훈련 시퀀스에서 추출된 실제 트리와 가짜 트리를 구분한다.
• 생성기와 판별기는 최소최대 게임(minimax game) 방식으로 적대적으로 학습되며, 생성기는 판별기가 이를 실제 트리로 분류하도록 유도하고, 판별기는 가짜 트리를 탐지하도록 학습한다.
• 훈련 과정에서는 실제 시퀀스와 그에 해당하는 파싱 트리를 모두 활용하며, 생성기는 판별기로부터의 강화학습 신호에 의해 유도된다.
• 이 프레임워크는 모든 CFG에 일반화 가능하도록 설계되어, SQL, 파이썬, 또는 도메인 특화 쿼리 언어와 같은 다양한 형식 언어에 적용 가능하다.

실험 결과

연구 질문

• RQ1 TreeGAN은 SeqGAN 및 그 변종에 비해 시퀀스 생성에서 더 나은 GAN 모델인가?
• RQ2 TreeGAN은 TreeGen과 같은 비적대적 문법 인식 모델에 비해 더 나은 문법 인식 모델인가?
• RQ3 TreeGAN은 합성 및 실세계 데이터셋 모두에서 문법 오류를 효과적으로 줄이면서도 실제 시퀀스와 높은 의미 유사도를 유지하는가?
• RQ4 파싱 트리를 통한 문법 구조 통합이, 구조적 제약 없이 순차적 방식으로 생성하는 것에 비해 생성 시퀀스의 품질과 유효성을 향상시키는가?

주요 결과

• TreeGAN은 합성 데이터셋에서 문법 오류를 크게 줄였으며, 문법이 엄격히 적용되는 환경에서 0개의 문법 위반이 발생했다.
• 실세계 데이터셋인 파이썬 코드 생성(Django)에서 TreeGAN은 문법 오류가 전혀 없는 코드를 생성했고, SeqGAN은 출력물에서 빨간색으로 강조된 여러 문법 오류를 기록했다.
• BLEU 및 ROUGE 점수 측정에서 TreeGAN은 SeqGAN을 능가하여 생성된 시퀀스의 의미 유사도와 유창성을 높게 보였다.
• 합성 연구에서 TreeGAN은 생성된 시퀀스의 유효성 비율이 100%였고, SeqGAN은 문법 위반으로 인해 유효성 비율이 크게 떨어졌다.
• 판별기의 실제 트리와 가짜 트리 간의 구분 능력은 학습이 진행됨에 따라 향상되어, 문법 내부의 구조적 패턴을 효과적으로 학습한 것으로 나타났다.
• 제거 실험(Ablation studies) 결과, 적대적 학습이나 트리 구조의 판별기를 제거할 경우 성능이 떨어졌으며, 최적의 성능을 얻기 위해 둘 다 필수적임을 확인했다.