[논문 리뷰] Incorporating Discriminator in Sentence Generation: a Gibbs Sampling Method

Jinyue Su, Jiacheng Xu외 2명|arXiv (Cornell University)|2018. 02. 25.

Topic Modeling참고 문헌 22인용 수 12

한 줄 요약

이 논문은 사전에 훈련된 언어 모델과 분류기의 도움을 받아 후보 문장을 반복적으로 개선함으로써 제약 조건을 충족하고 유창하며 다양한 문장을 생성하기 위한 기반으로 기반한 기법을 제안한다. 이 방법은 분류기를 통해 단어 교체를 유도함으로써 생성 품질을 향상시켜, 기준 샘플링 방법보다 더 높은 BLEU 점수와 로그우도를 달성한다.

ABSTRACT

Generating plausible and fluent sentence with desired properties has long been a challenge. Most of the recent works use recurrent neural networks (RNNs) and their variants to predict following words given previous sequence and target label. In this paper, we propose a novel framework to generate constrained sentences via Gibbs Sampling. The candidate sentences are revised and updated iteratively, with sampled new words replacing old ones. Our experiments show the effectiveness of the proposed method to generate plausible and diverse sentences.

연구 동기 및 목표

• 감정이나 주제와 같은 명시적 제약 조건을 충족하는 짧고 유창하며 다양한 문장을 생성하는 데 도전하는 것.
• 자기회귀 모델이 제약 조건 하에서 의미적으로 타당하지 않거나 의미 없는 문장을 생성할 수 있는 한계를 극복하는 것.
• 라벨이 부여된 데이터와 부여되지 않은 데이터를 모두 활용할 수 있도록 언어 모델과 분류기를 분리함으로써 준지도 학습을 가능하게 하는 것.
• 유창성과 제약 조건 준수 성분을 분리함으로써 문장 길이 제어 및 해석 가능성 향상을 위한 제어성을 제공하는 것.
• 표준 자기회귀 디코딩과는 다름없는 신경망 텍스트 생성에 기반 기반 기법의 새로운 응용을 탐색하는 것.

제안 방법

• 이 프레임워크는 문장의 각 단어를 조건부 확률에 기반해 반복적으로 재표본 추출함으로써 문장을 점진적으로 개선한다.
• 사전에 훈련된 언어 모델은 $ p(w_i | w_{1..i-1}, w_{i+1..n}) $를 계산하여 문장의 국소적 일관성을 보장함으로써 유창성을 평가한다.
• 별도의 분류기 모델은 현재 문장이 원하는 제약 조건을 충족하는지 평가하며, $ p(c | w_{1..n}) $를 추정한다.
• 각 반복 단계에서 후보 단어는 언어 모델에 기반해 가장 가능성 높은 단어들을 선택하는 후보 생성기로부터 생성된다.
• 기반 기반 기법은 단어 업데이트와 분류기 기반 문장 재평가를 번갈아 수행함으로써 점차 제약 조건 준수를 향상시킨다.
• 이 방법은 문장 길이 제어와 모듈러한 훈련을 가능하게 하며, 언어 모델과 분류기는 각각 라벨이 부여된 데이터와 부여되지 않은 데이터에서 별도로 훈련시킬 수 있다.

실험 결과

연구 질문

• RQ1 기반 기반 기법이 자기회귀 방법과 비교해 제약 조건을 충족하는 문장 생성에서 유창성과 다양성을 향상시키는 데 효과적으로 적용될 수 있는가?
• RQ2 직접 $ p(w_{1..n}|c) $를 모델링하지 않더라도 분류기의 통합이 제약 조건 준수를 향상시키는 데 어떻게 기여하는가?
• RQ3 제안된 방법이 BLEU 점수, 로그우도, 유효 비율 측면에서 표준 샘플링 기준 방법보다 얼마나 뛰어나게 성능을 발휘하는가?
• RQ4 언어 모델을 부호화되지 않은 데이터에서, 분류기를 라벨이 부여된 데이터에서 훈련함으로써 준지도 학습을 지원할 수 있는가?
• RQ5 시스템의 모듈러성은 생성 실패 시의 해석 가능성과 오류 진단에 어떻게 영향을 미치는가?

주요 결과

• 제안된 기반 기반 기법은 빠른 보정이 없는 경우를 포함해 기준 샘플링 방법보다 유의미하게 높은 BLEU 점수를 달성한다.
• 기반 기반 기법 하에서 생성된 문장의 단어당 로그우도는 더 높으며, 이는 더 나은 언어 모델 일치성과 유창성을 의미한다.
• 기반 기반 기법에서는 유효 문장 비율이 약간 더 높아, 더 뛰어난 분류기 효율성을 보여준다.
• 이 방법은 기반 기반 기법이 자연스럽게 길이 제약 조건을 지원하므로 문장 길이 제어가 가능하다.
• 실패 사례의 주요 원인은 분류기의 문제가 아니라 언어 모델의 한계(예: 끊어진 문장 조각 또는 불완전한 절)에 기인한다.
• 언어 모델과 분류기는 각각 라벨이 부여된 데이터와 부호화되지 않은 데이터에서 별도로 훈련시킬 수 있으므로, 이 프레임워크는 준지도 학습을 지원한다.