[論文レビュー] Generate, Delete and Rewrite: A Three-Stage Framework for Improving Persona Consistency of Dialogue Generation

Haoyu Song, Yan Wang+3 more|arXiv (Cornell University)|Apr 16, 2020

Topic Modeling参考文献 41被引用数 14

ひとこと要約

本稿では、応答を生成した後、一貫性マッチングモデルを用いて不一致なパーソナ関連語を特定・マスクし、その後マスクされた応答を再書き直すことで、会話生成におけるパーソナの一貫性を向上させる3段階のGenerate-Delete-Rewrite (GDR) フレームワークを提案する。この手法は、Persona-Chat データセットにおいて最先端の性能を達成し、応答品質を損なわずに一貫性を著しく向上させた。

ABSTRACT

Maintaining a consistent personality in conversations is quite natural for human beings, but is still a non-trivial task for machines. The persona-based dialogue generation task is thus introduced to tackle the personality-inconsistent problem by incorporating explicit persona text into dialogue generation models. Despite the success of existing persona-based models on generating human-like responses, their one-stage decoding framework can hardly avoid the generation of inconsistent persona words. In this work, we introduce a three-stage framework that employs a generate-delete-rewrite mechanism to delete inconsistent words from a generated response prototype and further rewrite it to a personality-consistent one. We carry out evaluations by both human and automatic metrics. Experiments on the Persona-Chat dataset show that our approach achieves good performance.

研究の動機と目的

• 神経的会話モデルにおけるパーソナの一貫性欠如という長年の問題に取り組むこと。これは、パーソナエンコーディングアーキテクチャを用いても、ユーザーが提供したパーソナ記述と矛盾する応答を生成してしまうことである。
• 一括生成フレームワークの限界を克服すること。これは、高尤度の応答に含まれても、一貫性のないパーソナ語を明示的に是正できないことである。
• 不一致パーソナ語の検出と精錬を統合した構造的でエンド・ツー・エンドのフレームワークを構築することにより、応答の一貫性を向上させること。
• Persona-Chat データセットを用いて、自動評価指標と人的評価の両方でフレームワークの有効性を評価すること。

提案手法

• トランスフォーマーに基づくジェネレータが、入力会話とパーソナ埋め込みを条件として初期応答プロトタイプを生成する。
• 一貫性マッチングモデル (D) が、生成された応答の各単語をパーソナテキストと照合し、不一致語を検出するためのスコアを付与する。
• マッチングスコアに基づき、不一致語が応答プロトタイプからマスク（削除）され、部分的にマスクされたシーケンスが生成される。
• 再書き込みモデルが、マスクされた応答を再構成し、条件付き生成によって一貫性を保証しながら、滑らかさを回復する。
• 全フレームワークはエンド・ツー・エンドで訓練され、削除および再書き込み段階が一括して最適化され、パーソナ整合性が向上する。
• 一貫性マッチングモデルは、自然言語推論タスク（DNLIスタイル）を用いて訓練され、応答語がパーソナと一貫しているかどうかを分類する。

実験結果

リサーチクエスチョン

• RQ1 生成、不一致語の検出、精錬を分離する3段階フレームワークは、会話システムにおけるパーソナ一貫性を向上させることができるか？
• RQ2 一貫性マッチングモデルは、生成された応答内の不一致パーソナ語をどの程度正確に検出し、マスクできるか？
• RQ3 マスクされた応答を再書き直すことで、応答の関連性や流暢さを損なわずに、パーソナ一貫性が向上するか？
• RQ4 GDR フレームワークは、既存の1段階型パーソナベースモデルと比較して、一貫性と応答品質の両面で優れているか？

主な発見

• GDR フレームワークは、Persona-Chat データセットにおいて最先端の性能を達成し、自動評価および人的評価の両方の指標で、競合モデルを上回った。
• 人的評価では、GDR モデルが提供されたパーソナ記述とより整合性の高い応答を生成したという顕著な改善が確認された。
• 自動評価指標（例：パープレキシティ）では、GDR モデルで顕著な低下が観察され、正解応答との整合性が向上し、シーケンス再構成性能が向上したことを示した。
• アブレーションスタディにより、削除および再書き込み段階の両方が応答品質向上に寄与していることが確認され、特に削除段階が不一致語の特定に不可欠であることが示された。
• 初期応答に不一致語が含まれる場合（例：パーソナが「歯科医」であるにもかかわらず「看護師」と出力される場合）、フレームワークは効果的にそれらをマスクし、パーソナに整合する代替語に再書き直した。
• 関連性と流暢さの両方が維持されており、モデル間で安定した関連性スコアが得られたことから、一貫性の向上が応答の整合性を犠牲にすることなく達成されたことが裏付けられた。