[논문 리뷰] CGMH: Constrained Sentence Generation by Metropolis-Hastings Sampling

Ning Miao, Hao Zhou외 3명|arXiv (Cornell University)|2018. 11. 14.

Topic Modeling참고 문헌 16인용 수 17

한 줄 요약

CGMH는 병행 학습 데이터가 필요 없이 하드 및 소프트 제약 조건을 모두 유연하게 처리할 수 있도록 문장 공간에서 직접 작동하는 메트로폴리스-해스팅스 샘플링 프레임워크를 제안한다. 키워드 기반 문장 생성, 다의어 어휘 생성, 오류 수정 등 다양한 작업에서 최신 기준 수준 또는 경쟁력 있는 성능을 달성하며, 비지도 학습 모델을 능가하고 지도 학습 기반 기준에 가까운 성능을 보인다.

ABSTRACT

In real-world applications of natural language generation, there are often constraints on the target sentences in addition to fluency and naturalness requirements. Existing language generation techniques are usually based on recurrent neural networks (RNNs). However, it is non-trivial to impose constraints on RNNs while maintaining generation quality, since RNNs generate sentences sequentially (or with beam search) from the first word to the last. In this paper, we propose CGMH, a novel approach using Metropolis-Hastings sampling for constrained sentence generation. CGMH allows complicated constraints such as the occurrence of multiple keywords in the target sentences, which cannot be handled in traditional RNN-based approaches. Moreover, CGMH works in the inference stage, and does not require parallel corpora for training. We evaluate our method on a variety of tasks, including keywords-to-sentence generation, unsupervised sentence paraphrasing, and unsupervised sentence error correction. CGMH achieves high performance compared with previous supervised methods for sentence generation. Our code is released at https://github.com/NingMiao/CGMH

연구 동기 및 목표

• 자기회귀적이고 왼쪽에서 오른쪽으로의 문장 생성에 의존하는 신경망 시퀀스 생성 모델에 대해 복잡한 제약 조건(예: 필수 키워드 포함)을 부여하는 문제를 해결하기 위해.
• 재학습이나 병행 코퍼스가 필요 없는 일반적인 추론 시점 방법을 개발하여 제약 조건을 충족하는 문장 생성을 가능하게 하기 위해.
• 문장 공간에서 마르코프 체인 몬테카를로(MCMC) 기법을 사용하여 유창하고 제약 조건을 충족하는 문장을 효과적으로 샘플링하기 위해.
• 키워드 기반 생성, 다의어 어휘 생성, 문장 오류 수정 등 다양한 작업에서 프레임워크의 유연성과 성능을 평가하기 위해.

제안 방법

• CGMH는 제안 분포를 기반으로 단어 수준의 국소적 수정(치환, 삭제, 삽입)을 제안하여 메트로폴리스-해스팅스(MH) 샘플링을 통해 문장을 생성한다.
• MH의 정적 분포는 제약 조건 이행을 표현하는 매칭 함수를 사용하여 설계되며, 하드 제약 조건(예: 키워드 존재)에는 이진 값을, 소프트 제약 조건(예: 의미 유사성)에는 유사도 기반 값을 사용한다.
• 현재 문장과 제안된 문장 간의 정적 분포 값 비율에 기반한 수용 확률을 통해 제안 문장을 수용하거나 기각한다.
• 이 방법은 추론 단계에서 작동하며 재학습이나 병행 데이터가 필요 없어, 제로샷 또는 약한 지도 학습 설정에 적용 가능하다.
• 다양성과 유창성을 확보하기 위해 CGMH는 자가 수정을 허용하고 고정된 생성 순서를 강제하지 않아 오류 누적이 방지된다.
• 제약 조건을 충족하는 시드(예: 키워드 시퀀스)를 사용한 온난 스타트 초기화를 지원하여 수렴 속도와 품질을 향상시킨다.

실험 결과

연구 질문

• RQ1 문장 공간에서 메트로폴리스-해스팅스 샘플링이 재학습 없이도 복수의 필수 키워드와 같은 복잡한 하드 제약 조건을 효과적으로 구현할 수 있는가?
• RQ2 제로샷 설정에서 비지도 학습 기반 및 지도 학습 기반 기준 모델과 비교해 CGMH는 유창하고 다양한 제약 조건을 충족하는 문장을 얼마나 잘 생성하는가?
• RQ3 병행 코퍼스 없이도 CGMH가 다의어 어휘 생성 및 오류 수정 작업에서 의미 유사성 같은 소프트 제약 조건을 얼마나 잘 처리할 수 있는가?
• RQ4 치환, 삭제, 삽입 등의 다양한 제안 작업에서 CGMH의 수용률과 수렴 행동은 어떻게 변화하는가?
• RQ5 병행 학습 데이터 없이도 CGMH가 문장 오류 수정과 같은 작업에서 지도 학습 기반 모델과 유사한 성능을 달성할 수 있는가?

주요 결과

• 키워드 기반 문장 생성에서 CGMH는 병행 데이터 없이도 최신 기준 수준의 지도 학습 모델을 능가하는 유창성(부정적 로그우도)과 인간 평가 성능을 달성하며 경쟁적인 결과를 보였다.
• 비지도 다의어 어휘 생성에서 CGMH는 다른 비지도 학습 모델을 크게 능가하고 지도 학습 기준 수준의 성능에 근접한 결과를 달성했다.
• 문장 오류 수정에서 CGMH는 230만 개의 병행 쌍과 문법적 특징을 사용하는 AMU 시스템을 능가했으며, 룰 기반 CAMB14 시스템과 동등한 성능을 보였다.
• 단어 치환의 수용률은 100%였고, 삭제 및 삽입 작업의 수용률은 합리적인 수준(8.0–10.8%)을 유지하여 문장 공간의 효과적 탐색이 가능했다.
• CGMH는 효율적으로 수렴한다: 다의어 어휘 생성에서 50단계 이내로 20% 이상의 단어가 변경되었으며, 키워드 시드에서 150단계 내에 유창한 문장을 생성하는 데에 충분했다.
• 온난 스타트 초기화는 수렴 속도와 품질을 크게 향상시켰고, 랜덤 초기화는 초기 성능이 열악하여 시간이 지남에 따라 서서히 향상되었다.