[論文レビュー] Inferring the Reader: Guiding Automated Story Generation with Commonsense Reasoning

Xiangyu Peng, Siyan Li+2 more|arXiv (Cornell University)|May 4, 2021

Topic Modeling参考文献 19被引用数 4

ひとこと要約

この論文は、共通知識的推論を神経的物語生成に統合することで物語の整合性を向上させる、Commonsense-inference Augmented neural StoryTelling (CAST) というフレームワークを提案する。CASTは、生成された文からキャラクターの目的、感情、意図を COMET2020 を用いて推論し、推論されたリーダーの心的モデルと整合する継続のみをフィルタリングすることで、単一および二人物設定の両方で、強力なベースラインよりも著しく整合性が高く、トピックに即しており、流暢で楽しい物語を生成する。

ABSTRACT

Transformer-based language model approaches to automated story generation currently provide state-of-the-art results. However, they still suffer from plot incoherence when generating narratives over time, and critically lack basic commonsense reasoning. Furthermore, existing methods generally focus only on single-character stories, or fail to track characters at all. To improve the coherence of generated narratives and to expand the scope of character-centric narrative generation, we introduce Commonsense-inference Augmented neural StoryTelling (CAST), a framework for introducing commonsense reasoning into the generation process with the option to model the interaction between multiple characters. We find that our CAST method produces significantly more coherent, on-topic, enjoyable and fluent stories than existing models in both the single-character and two-character settings in three storytelling domains.

研究の動機と目的

• 神経的物語生成モデルにおける共通知識的推論とプロットの整合性の欠如に対処すること。
• 目的の階層とキャラクターの意図をモデル化することで、複数のキャラクターにわたる整合的でキャラクター中心の物語生成を可能にすること。
• 神経言語モデル生成と人間のリーダー理解のギャップを埋めるために、読者の心的モデルをシミュレートすること。
• 論理的で目的駆動の物語進行を強制することで、物語の流暢さと楽しさを向上させること。
• 最小限のアーキテクチャ的変更で、単一および複数キャラクター物語生成をサポートするスケーラブルなフレームワークの開発

提案手法

• システムはプロンプトと指定された主要キャラクターから開始し、事前学習済み言語モデルを用いて候補となる物語の継続を生成する。
• 各候補について、COMET2020 が四つの共通知識的次元（キャラクターの目的、感情、意図、潜在的結果）を推論する。
• 推論された属性が直前の文と十分な一貫性を持つ場合に限り、候補が受け入れられる（しきい値ベースの一致機構を用いる）。
• 受け入れられた継続が新たなプロンプトとなり、物語の希望長さに達するまでこのプロセスを繰り返す。
• 交互生成と動的キャラクター切り替えを用いて、単一キャラクターおよび二人物の物語を両方サポートする。
• この手法はマコフ的仮定に依存しており、直前の1つのイベントとのみ比較するが、効果的に全体の整合性を維持できる。

実験結果

リサーチクエスチョン

• RQ1 共通知識的推論は、尤度に基づく生成を上回る物語生成の整合性と流暢さを向上させることができるか？
• RQ2 キャラクターの目的と意図をモデル化することは、複数キャラクター物語において物語の質にどのように影響するか？
• RQ3 読者の心的モデル推論に基づくフィルタリング機構は、ベースライン手法を上回る性能を発揮できるか？
• RQ4 長時間にわたるシーケンスにおいて、システムはどの程度トピック関連性と物語の一貫性を維持できるか？
• RQ5 COMET2020 の推論を統合することで、物語の楽しさと論理的進行はどの程度向上するか？

主な発見

• CASTは、C2PO や Goldfarb-Tarrant 他 (2020) といった強力なベースラインを、三つの物語生成ドメインにおいて、物語の整合性、流暢さ、トピック関連性の面で著しく上回る。
• 共通知識的推論を用いて推論された読者の心的モデルと整合するように強制することで、より楽しさがあり論理的に整合した物語を生成する。
• 単一および二人物物語生成の両方において、人間評価指標（整合性、トピック関連性、流暢さ）で高いスコアを達成する。
• 局所的でマコフ的比較戦略を採用しているにもかかわらず、グローバルな物語の整合性を効果的に維持できることを示した。
• C2PO よりも多様な物語を生成する。これは、COMET2020 が文の生成に使われず、フィルタリングにのみ使われているためである。
• CAST の性能は COMET2020 の共通知識的推論の質に直接的に依存しており、今後の推論モデルの向上によりさらなる向上が見込まれる。