[論文レビュー] NeuroLogic Decoding: (Un)supervised Neural Text Generation with Predicate Logic Constraints

Ximing Lu, Peter West+4 more|arXiv (Cornell University)|Oct 24, 2020

Topic Modeling参考文献 29被引用数 11

ひとこと要約

NeuroLogic Decoding は、モデルの重みや学習を変更せずに、述語論理で表現された複雑な語彙的制約を厳密に満たしながら、スムーズなテキストを生成できる、推論時における新しいアルゴリズムである。この手法は、4つの多様なテキスト生成タスク—共通認識の推論、レシピ生成、対話応答生成、翻訳における性別バイアス低減—において、最先端の性能を達成しており、しばしば従来の推論手法を用いた教師ありモデルを上回っている。これは、より小さい非教師ありモデルを用いても同様に成立する。

ABSTRACT

Conditional text generation often requires lexical constraints, i.e., which words should or shouldn't be included in the output text. While the dominant recipe for conditional text generation has been large-scale pretrained language models that are finetuned on the task-specific training data, such models do not learn to follow the underlying constraints reliably, even when supervised with large amounts of task-specific examples. We propose NeuroLogic Decoding, a simple yet effective algorithm that enables neural language models -- supervised or not -- to generate fluent text while satisfying complex lexical constraints. Our approach is powerful yet efficient. It handles any set of lexical constraints that is expressible under predicate logic, while its asymptotic runtime is equivalent to conventional beam search. Empirical results on four benchmarks show that NeuroLogic Decoding outperforms previous approaches, including algorithms that handle a subset of our constraints. Moreover, we find that unsupervised models with NeuroLogic Decoding often outperform supervised models with conventional decoding, even when the latter is based on considerably larger networks. Our results suggest the limit of large-scale neural networks for fine-grained controllable generation and the promise of inference-time algorithms.

研究の動機と目的

• 微調整された大規模言語モデルが、テキスト生成において語彙的制約を信頼性高く満たせないという継続的な問題に対処すること。
• 推論時における複雑な論理的制約を強制できる、一般的で効率的かつ即座に適用可能な推論手法を開発すること。
• 特にゼロショットまたは低データ設定において、大規模な微調整の性能を上回る、推論時制御の有効性を示すこと。
• データセット固有のパターンへの依存を低減し、レシピ生成や性別バイアス低減のような制約付き生成タスクにおける耐性を高めること。

提案手法

• 制約を結合標準形（CNF）における述語論理式として定式化し、特定の語やフレーズの含む（肯定的）および除外（否定的）要件を表現する。
• 硬い論理的制約を、ビームサーチの推論目的関数内での微分可能でソフトなペナルティ項に変換することで、制約下での効率的最適化を可能にする。
• 推論プロセス全体を通じて制約状態を維持することで、計算の再利用を可能にし、重複するチェックを回避し、ビームサーチの漸近的実行時間計算量を保ち続ける。
• 論理結合子を用いて、肯定的および否定的制約の任意の組み合わせをサポートし、同義語や活用形の同等性（例：「beef」または「steak」が「meat」の要件を満たす）のような複雑な要件を実現可能にする。
• モデルに依存しないアプローチであり、モデルの微調整やアーキテクチャの変更が不要であるため、教師ありおよび非教師ありの事前学習済み言語モデルに適用可能である。

実験結果

リサーチクエスチョン

• RQ1 微調整モデルがはるかに大きい場合でも、推論のみの手法が、制約付きテキスト生成において微調整モデルを上回ることができるか？
• RQ2 非教師ありモデルに NeuroLogic Decoding を適用することで、標準的な推論手法を用いた教師ありモデルの性能に到達または上回ることができるか、その程度は？
• RQ3 推論時における論理的制約の強制は、データセット固有のパターンへの依存を低減し、一般化性能を向上させるか？
• RQ4 NeuroLogic Decoding を用いることで、出力シーケンスにおける正しい性別接尾辞の強制が可能となり、機械翻訳における性別バイアスを効果的に低減できるか？

主な発見

• NeuroLogic Decoding は、評価された4つのベンチマークすべてで新たなSOTAを達成した。ゼロショット設定でも、教師ありベースラインを上回った。
• レシピ生成タスクでは、大規模な微調整済み GPT-2 モデルを用いても、標準的なビームサーチに比べて制約適合性が顕著に向上した。
• 翻訳における性別バイアス低減においては、正解の性別マーカーが与えられた場合、英仏翻訳で正答率を 53.0% から 89.9% に、英独翻訳で 60.5% から 95.0% に向上させた。
• フランス語翻訳において、ステレオタイプ的および非ステレオタイプ的性別役割の性能差 ΔS を最大 8.9 パcent point 減少させ、モデルバイアスの低減を示した。
• 非教師ありモデルに NeuroLogic Decoding を適用した結果、標準的な推論手法を用いたより大きな微調整済みモデルを上回る性能を達成した。これは、推論時制御が微調整のスケールの限界を超える可能性を示している。