[論文レビュー] Re3: Generating Longer Stories With Recursive Reprompting and Revision

Kevin Yang, Yuandong Tian+2 more|arXiv (Cornell University)|Oct 13, 2022

Natural Language Processing Techniques被引用数 11

ひとこと要約

Re3は、ゼロショットで計画に基づくアプローチを用いて、2,000〜2,500語の長編で一貫性のある物語を生成する再帰的プロンプト設定と見直しのフレームワークを提案する。動的プロンプト再設定、再ランク付け、事実の編集を通じて、物語の継続部分を段階的に改善することで、長距離のプロットの一貫性と前提条件の関連性を向上させ、ベースライン手法と比較して人間による評価でプロットの一貫性が14%絶対値で向上し、前提条件の関連性が20%向上した。

ABSTRACT

We consider the problem of automatically generating longer stories of over two thousand words. Compared to prior work on shorter stories, long-range plot coherence and relevance are more central challenges here. We propose the Recursive Reprompting and Revision framework (Re3) to address these challenges by (a) prompting a general-purpose language model to construct a structured overarching plan, and (b) generating story passages by repeatedly injecting contextual information from both the plan and current story state into a language model prompt. We then revise by (c) reranking different continuations for plot coherence and premise relevance, and finally (d) editing the best continuation for factual consistency. Compared to similar-length stories generated directly from the same base model, human evaluators judged substantially more of Re3's stories as having a coherent overarching plot (by 14% absolute increase), and relevant to the given initial premise (by 20%).

研究の動機と目的

• 2,000〜2,500語の長編物語を、持続的なプロットの一貫性と前提条件の関連性を保ちながら生成する課題に対処すること。
• 人間の介入なしに人間の執筆プロセスを模倣する完全自動のゼロショットフレームワークを構築すること。
• 再帰的プロンプト設定と繰り返しの見直しを用いて、物語生成における長距離の一貫性と事実の整合性を向上させること。
• 生成された物語の一貫性、関連性、人間らしさに関する人間の評価を通じてフレームワークを評価すること。
• 再帰的プロンプト再設定と見直しが、長編物語生成において標準的なウィンドウスライド自己回帰生成を著しく上回ることを実証すること。

提案手法

• プランモジュールはゼロショットプロンプトを用いて、初期の前提条件に基づき、設定、登場人物、プロットのポイントを含む構造的な物語の骨子を生成する。
• ドラフトモジュールは、初期のプランと進行中の物語状態からの文脈を動的に統合することで、大規模言語モデルを再帰的にプロンプト設定し、各新しい節を生成する。
• リライトモジュールは再ランク付けモデルを用いて、プロットの一貫性と前提条件の関連性に基づき、複数の候補となる続編を再ランク付けする。
• 編集モジュールは、最高ランクの続編に対して局所的な編集を実施し、過去の物語内容との事実の不整合を是正する。
• すべてのモジュール（プラン、ドラフト、リライト、編集）はゼロショットであり、物語固有のデータセットでの微調整を必要としない。
• フレームワークはエンドツーエンドで完全自動であり、生成や見直しの段階で人間の入力を一切含まない。

実験結果

リサーチクエスチョン

• RQ1 ゼロショットで再帰的プロンプト設定と見直しを行うフレームワークは、標準的な自己回帰ベースラインと比較して、2,000〜2,500語の長編物語において、より優れた長距離のプロットの一貫性を実現できるか？
• RQ2 構造的な計画と繰り返しの見直しを組み込むことで、長編物語生成における前提条件の関連性はどの程度向上するか？
• RQ3 人間による評価において、提案されたフレームワークはウィンドウスライド自己回帰ベースラインと比較して、一貫性と事実の整合性の面で優れているか？
• RQ4 生成された物語は、物語の質と一貫性の面で人間が書いた物語と区別がつかないほどか？
• RQ5 再帰的プロンプト再設定とマルチステージの見直しが、長期間にわたる生成の過程で事実の矛盾をどの程度低減するか？

主な発見

• 人間の評価者は、Re3が生成した物語のうち14%が、ウィンドウスライドベースラインと比較して、包括的なプロットの一貫性があると評価した。
• Re3が生成した物語は、ベースラインモデルと比較して、初期の前提条件との関連性が20%の絶対値で向上した。
• 評価者らは、Re3が生成した物語の最大83%が人間が書いたものだと予測した。これは、物語の質と自然さが非常に高いことを示している。
• このフレームワークは7,500語の物語を正常に生成でき、2,000〜2,500語のターゲット長を超えたスケーラビリティを示した。
• 再帰的プロンプト再設定、再ランク付け、および編集の組み合わせにより、微調整なしに長距離の一貫性と事実の整合性が著しく向上した。
• すべてのモジュールがゼロショットであるため、物語固有の微調整を必要とせず、多様な分野への広範な適用が可能である。