[論文レビュー] DiffusER: Discrete Diffusion via Edit-based Reconstruction

Machel Reid, Vincent J. Hellendoorn+1 more|arXiv (Cornell University)|Oct 30, 2022

Topic Modeling被引用数 8

ひとこと要約

DiffusERは、挿入、削除、置換、保持のLevenshtein操作を用いた反復的編集ベースの再構成によって動作する、テキスト生成のための離散的拡散モデルを提案する。このアプローチにより、翻訳、要約、スタイル転送などのタスクにおいて、柔軟で制御可能で高性能な生成が可能となり、自己回帰的モデルと同等またはそれを上回る性能を発揮する。加えて、モデルが出力したテキストの修正も可能である。

ABSTRACT

In text generation, models that generate text from scratch one token at a time are currently the dominant paradigm. Despite being performant, these models lack the ability to revise existing text, which limits their usability in many practical scenarios. We look to address this, with DiffusER (Diffusion via Edit-based Reconstruction), a new edit-based generative model for text based on denoising diffusion models -- a class of models that use a Markov chain of denoising steps to incrementally generate data. DiffusER is not only a strong generative model in general, rivalling autoregressive models on several tasks spanning machine translation, summarization, and style transfer; it can also perform other varieties of generation that standard autoregressive models are not well-suited for. For instance, we demonstrate that DiffusER makes it possible for a user to condition generation on a prototype, or an incomplete sequence, and continue revising based on previous edit steps.

研究の動機と目的

• 生成されたテキストの修正や編集が困難であるという自己回帰的モデルの限界を解消し、実用的なコンテンツ制作ワークフローにおける使いやすさを向上させること。
• 単一パスの自己回帰的生成を超えて、プロトタイプや不完全なシーケンス、あるいは以前の編集結果に条件づけられる柔軟なテキスト生成を可能にすること。
• 拡散モデルの長所（段階的ノイズ除去）と編集ベース生成の長所を統合し、汎用的で微分可能かつ制御可能なテキスト生成フレームワークを構築すること。
• 外部の教師ありデータを必要とせずに、標準的なNLPタスクにおいて自己回帰的モデルと同等またはそれ以上の性能を達成できる編集ベースの拡散が可能であることを実証すること。
• 自己回帰的モデルと編集ベース生成の間の相互運用性を実現し、出力結果に対して直接的に離散トークン空間で編集を適用できるようにすること。

提案手法

• 各ステップで挿入、削除、置換、保持の編集操作を適用することで、損傷済みまたは初期状態のシーケンスからターゲットシーケンスを段階的に再構成する、ノイズ除去ステップのマルコフ連鎖としてテキスト生成を定式化する。
• 訓練のために合成的な編集ベースの腐敗と再構成プロセスを定義し、モデルが真のテキストに至るためのランダムな編集の系列を逆方向に学習するようにする。
• 段階レベルとトークンレベルの意思決定を同時に最適化することで、生成品質と効率性を向上させる2次元ビームサーチデコード戦略を導入する。
• 離散的トークンシーケンス上で直接動作する拡散プロセスを用い、ノイズスケジュールに従ってガイドされる編集操作の系列として逆過程をモデル化する。
• 損傷済みシーケンスを真値に変換するために必要な真の編集と予測編集の差を最小化するノイズ除去目的関数を用いてモデルを訓練する。
• 出発点として任意の入力シーケンス（例：プロトタイプ、部分的出力）を条件として用い、それらから出力を向かって編集を適用することで、生成を初期化する。

実験結果

リサーチクエスチョン

• RQ1 編集操作に基づく拡散モデルが、機械翻訳（WMT’14 En-De）や要約（CNN/DailyMail）といった標準的なNLPタスクで自己回帰的モデルと同等の性能を達成できるか。
• RQ2 編集ベースの拡散が、出力の修正や不完全なプロンプトからの生成といった、制御可能でインタラクティブなテキスト生成をどの程度可能にするか。
• RQ3 標準的な自己回帰的および非自己回帰的生成手法と比較して、編集ベースの拡散プロセスの効率性と品質はいかが。
• RQ4 タスク固有の微調整なしに、スタイル転送や要約的要約といった多様なテキスト生成タスクに一般化できるか。
• RQ5 デコード戦略（例：ビームサーチ、nucleusサンプリング）が、推論速度と生成品質のトレードオフに与える影響は。

主な発見

• DiffusERは、機械翻訳（WMT’14 En-De）、要約的要約（CNN/DailyMail）、スタイル転送タスクにおいて、強力な自己回帰的モデルと同等またはそれ以上の性能を達成した。
• モデルは、プロトタイプや不完全なシーケンスに条件づけて生成を制御でき、編集ステップを繰り返し適用することで出力を段階的に修正できるという強力な制御性を示した。
• 2次元ビームサーチデコードは、標準的なビームサーチやグリーディ／nucleusサンプリングに比べて生成品質を顕著に向上させたが、推論時間の増加を伴った。
• 初期の拡散ステップで速やかに性能向上が見られたが、約20〜30ステップ程度で性能が落ち着き、それ以上のノイズ除去ステップでは利得が減少する傾向を示した。
• 推論が遅いものの、制約付きおよび編集ベースの生成には実用的であることが示され、今後の効率的デコードアルゴリズムの最適化の余地があることが示唆された。
• 編集ベースのプロセスは、他のモデルが出力した結果の後処理による編集を自然にサポートでき、離散的テキスト空間におけるモデル間相互運用性の新しいパラダイムを実現した。