[論文レビュー] CGMH: Constrained Sentence Generation by Metropolis-Hastings Sampling

Ning Miao, Hao Zhou+3 more|arXiv (Cornell University)|Nov 14, 2018

Topic Modeling参考文献 16被引用数 17

ひとこと要約

CGMHは、平行学習データを必要とせず、文空間上で直接作用するメトロポリス・ハスティングスサンプリングフレームワークを提案する。これにより、硬い制約（例：キーワード必須）と柔らかい制約（例：意味的類似性）の両方を柔軟に扱える。キーワードから文への生成、リフレーティング、誤り訂正の各タスクで、最先端または競合可能な性能を達成し、教師ありベースラインに近い性能を発揮する。

ABSTRACT

In real-world applications of natural language generation, there are often constraints on the target sentences in addition to fluency and naturalness requirements. Existing language generation techniques are usually based on recurrent neural networks (RNNs). However, it is non-trivial to impose constraints on RNNs while maintaining generation quality, since RNNs generate sentences sequentially (or with beam search) from the first word to the last. In this paper, we propose CGMH, a novel approach using Metropolis-Hastings sampling for constrained sentence generation. CGMH allows complicated constraints such as the occurrence of multiple keywords in the target sentences, which cannot be handled in traditional RNN-based approaches. Moreover, CGMH works in the inference stage, and does not require parallel corpora for training. We evaluate our method on a variety of tasks, including keywords-to-sentence generation, unsupervised sentence paraphrasing, and unsupervised sentence error correction. CGMH achieves high performance compared with previous supervised methods for sentence generation. Our code is released at https://github.com/NingMiao/CGMH

研究の動機と目的

• 自己回帰的・左から右への生成に依存するニューラルシーケンス生成モデルに対して、必須キーワードの含むなど、複雑な制約を課す課題に対処すること。
• 微調整や平行コーパスを必要とせず、推論時のみで動作する汎用的な制約付き文生成手法の開発。
• 文空間におけるマルコフ連鎖モンテカルロ（MCMC）手法を用いて、自然で制約を満たす文を効果的にサンプリングすること。
• キーワードベース生成、リフレーティング、文の誤り訂正など多様なタスクにおいてフレームワークを評価し、その汎用性と性能を示すこと。

提案手法

• CGMHは、提案分布に基づき、語彙レベルでの局所的変更（置換、削除、挿入）を提案することで、文を生成するメトロポリス・ハスティングス（MH）サンプリングを採用する。
• MHにおける定常分布は、制約の満たし方を符号化するマッチング関数を用いて設計される。硬い制約（例：キーワードの存在）にはバイナリ表現を、柔らかい制約（例：意味的類似性）には類似度に基づく表現を用いる。
• 現在の文と提案された文の間の定常分布値の比に基づく受容確率によって、提案を受容または却認する。
• この手法は推論段階でのみ動作し、微調整や平行データを必要としないため、ゼロショットまたは弱教師あり設定に応用可能である。
• 多様性と自然さを確保するため、CGMHは自己訂正を許容し、固定された生成順序を強制しないため、誤りの蓄積を回避する。
• 制約を満たす初期値（例：キーワード列）を用いたウォームスタート初期化をサポートし、収束速度と品質を向上させる。

実験結果

リサーチクエスチョン

• RQ1 文空間におけるメトロポリス・ハスティングスサンプリングは、再訓練を伴わず、複数の必須キーワードなどの複雑な硬い制約を効果的に満たすことができるか？
• RQ2 ゼロショット設定において、CGMHは教師あり・教師なしベースラインと比較して、自然で多様かつ制約を満たす文をどれほど効果的に生成できるか？
• RQ3 平行コーパスを一切使用せずに、リフレーティングや誤り訂正タスクにおける意味的類似性といった柔らかい制約を、CGMHはどの程度効果的に処理できるか？
• RQ4 置換、削除、挿入といった異なる提案操作における、CGMHの受容率と収束行動はどのように変化するか？
• RQ5 平行学習データが存在しない状況でも、CGMHは誤り訂正タスクにおいて教師ありモデルと同等の性能を達成できるか？

主な発見

• キーワードから文への生成タスクでは、CGMHは、平行データを一切使用せず、負の尤度（自然さ）と人間評価の両面で最先端の教師ありモデルを上回り、競争力のある結果を達成した。
• 教師なしリフレーティング生成では、他の教師なしモデルを大きく上回り、教師ありSOTA手法の結果に近い水準に達した。
• 文の誤り訂正タスクでは、230万件の平行ペアと文法的特徴を用いたAMUシステムを上回り、ルールベースのCAMB14システムと同等の性能を発揮した。
• 語の置換における受容率は100%であり、削除・挿入操作についても妥当な受容率（8.0–10.8%）を維持しており、文空間の効果的探索が可能である。
• CGMHは効率的に収束する：リフレーティング生成では、20%以上の語が変更されるまでに50ステップ未満で到達し、キーワード初期値から出発する場合、150ステップで自然な文が生成可能である。
• ウォームスタート初期化は収束速度と品質を顕著に向上させ、初期化をランダムにした場合、初期段階での性能が低く、時間経過とともにゆっくりと改善される。