[論文レビュー] Why is constrained neural language generation particularly challenging?

Cristina Gârbacea, Qiaozhu Mei|arXiv (Cornell University)|Jun 11, 2022

Topic Modeling被引用数 4

ひとこと要約

この論文は、制約付きニューラル言語生成におけるコアな課題を特定・分析し、入力上の条件（conditions）と出力上の制約（constraints）を区別し、モデル表現力の制限、微分不能な制約、評価メトリクスの乏しさ、ベンチマークデータセットの不足といった主要な障壁を浮き彫りにしている。本論文は制約付きNLGの形式的フレームワークを提案し、表現力、評価、耐性の向上に向けたさらなる研究を呼びかけ、安全で制御可能かつ効果的なテキスト生成システムの発展を促進する。

ABSTRACT

Recent advances in deep neural language models combined with the capacity of large scale datasets have accelerated the development of natural language generation systems that produce fluent and coherent texts (to various degrees of success) in a multitude of tasks and application contexts. However, controlling the output of these models for desired user and task needs is still an open challenge. This is crucial not only to customizing the content and style of the generated language, but also to their safe and reliable deployment in the real world. We present an extensive survey on the emerging topic of constrained neural language generation in which we formally define and categorize the problems of natural language generation by distinguishing between conditions and constraints (the latter being testable conditions on the output text instead of the input), present constrained text generation tasks, and review existing methods and evaluation metrics for constrained text generation. Our aim is to highlight recent progress and trends in this emerging field, informing on the most promising directions and limitations towards advancing the state-of-the-art of constrained neural language generation research.

研究の動機と目的

• 神経的テキスト生成における条件（入力上）と制約（出力上）の違いを明確にし、文献における曖昧さを解消すること。
• 効果的な制約付きニューラル言語生成を阻害する主な課題を特定・体系化すること、モデル表現力、最適化の難しさ、評価の限界を含む。
• 制約付きテキスト生成における既存の手法、アーキテクチャ、評価メトリクスを調査し、それらの限界とギャップを浮き彫りにすること。
• モデル表現力の向上、堅牢な評価メトリクスの開発、制約付き生成に適した多様で代表的なベンチマークデータセットの構築に向けた集中研究を提唱すること。
• 将来的な研究を、実世界の応用に向けたより安全で、制御可能かつ信頼性の高い神経的テキスト生成システムの構築へと導くこと。

提案手法

• 本論文は、出力テキスト上のテスト可能な条件（制約）と、入力上でテスト可能な条件とを区別することで、制約付きニューラル言語生成を形式的に定義する。
• 制約の種別に基づいて制約付きテキスト生成タスクを分類し、語彙的、構文的、フォーマット、感情、スタイルの制約を含む。
• 従来のニューラル生成手法（例：制約付きデコード、制約付きビームサーチ、微調整、強化学習）を調査し、複雑な制約を処理する際の限界を分析する。
• 現在の評価手法を評価し、自動評価メトリクスの欠陥を特定し、制約の満たし具合に特化した人間による評価とベンチマークデータセットの開発を提唱する。
• 入力に依存しないトリガーを悪用する攻撃が、制約違反を引き起こす可能性があるという点で、言語モデルに対するアドバーシャル攻撃が重要な課題であると議論する。
• 本研究手法には、制約付き生成における繰り返し現れる技術的・手法論的限界を特定することに重点を置いた、最近の文献の包括的レビューが含まれる。

実験結果

リサーチクエスチョン

• RQ1 なぜ制約付きニューラル言語生成は、非条件的または条件付き生成よりも困難なのか？
• RQ2 出力テキスト上のテスト可能な条件（制約）として定義される制約は、神経的言語生成において、入力上の条件とどのように正式に区別できるか？
• RQ3 任意の制約をニューラル言語モデルの学習目的関数に組み込む際の主な技術的障壁は何か？
• RQ4 文の流れや一貫性と併せて、生成されたテキストが与えられた制約をどの程度満たしているかを評価することがなぜ難しいのか？
• RQ5 現在のデータセット、評価メトリクス、モデルアーキテクチャにおける、制約付き生成の発展を阻害する主な限界は何か？

主な発見

• 制約付きニューラル言語生成は、任意の制約を学習目的関数に組み込む際のモデル表現力の欠如により、特に困難である。
• 多くの制約、特にトークンレベルの制約は微分不能であり、勾配ベースの学習手法では最適化が困難である。
• 既存のテキスト生成用評価メトリクスは、制約の満たし具合を堅牢に測定できず、人間による評価がゴールドスタンダードであるものの、制約付き設定では未だ十分に活用されていない。
• 制約付きテキスト生成に適した多様で代表的で現実的なベンチマークデータセットの不在が、モデル開発と比較の限界を生じさせている。
• 入力に依存しないトリガーを悪用するアドバーシャル攻撃は、偏ったまたは有害な出力を引き起こす可能性があり、制約付き生成モデルにおける耐性の必要性を浮き彫りにしている。
• 現在のアプローチは、語彙的、構文的、感情、スタイルといった多様で異種の制約を同時にかつ効果的に組み合わせることに苦労している。