[論文レビュー] A Pre-training Based Personalized Dialogue Generation Model with Persona-sparse Data

Yinhe Zheng, Rongsheng Zhang+2 more|arXiv (Cornell University)|Nov 12, 2019

Topic Modeling参考文献 28被引用数 19

ひとこと要約

本論文では、実世界の会話で一般的なパーソナが希少な会話データを効果的に活用するため、エンコーダーにパーソナ属性埋め込みを統合し、デコーダーで動的アテンションルーティング機構を用いて応答生成中のパーソナ関連性をバランスさせる、事前学習ベースの対話生成モデルを提案する。このモデルは、パーソナの一貫性と一貫性の両面で最先端の性能を達成しており、一部の評価では人間が生成した応答を上回るパーソナ一貫性を示している。

ABSTRACT

Endowing dialogue systems with personas is essential to deliver more human-like conversations. However, this problem is still far from well explored due to the difficulties of both embodying personalities in natural languages and the persona sparsity issue observed in most dialogue corpora. This paper proposes a pre-training based personalized dialogue model that can generate coherent responses using persona-sparse dialogue data. In this method, a pre-trained language model is used to initialize an encoder and decoder, and personal attribute embeddings are devised to model richer dialogue contexts by encoding speakers' personas together with dialogue histories. Further, to incorporate the target persona in the decoding process and to balance its contribution, an attention routing structure is devised in the decoder to merge features extracted from the target persona and dialogue contexts using dynamically predicted weights. Our model can utilize persona-sparse dialogues in a unified manner during the training process, and can also control the amount of persona-related features to exhibit during the inference process. Both automatic and manual evaluation demonstrates that the proposed model outperforms state-of-the-art methods for generating more coherent and persona consistent responses with persona-sparse data.

研究の動機と目的

• パーソナが頻繁に言及されない、実世界の対話データに特化したパーソナライズド対話システムの学習課題に対処すること。
• 既存のモデルが人為的に作成されたパーソナが豊富なデータセットに過学習してしまうという限界を克服し、希少で現実的である会話パターンに一般化可能な手法を設計すること。
• 推論時に動的重み付けによりパーソナ特徴を制御的に組み込むことで、応答生成中にパーソナ関連コンテンツを制御的に生成できること。
• パーソナ頻度が低い状況下でも、自動評価および人的評価の両方の指標としての流れとパーソナ一貫性を向上させること。

提案手法

• モデルは、T5や類似モデルなどの事前学習言語モデルを用いてエンコーダーとデコーダーを初期化し、対話生成に強い初期表現を実現する。
• エンコーダーに属性埋め込みを導入し、会話履歴に加えて発話者のパーソナを符号化することで、パーソナに配慮した特徴を含む文脈モデリングを強化する。
• デコーダーに動的アテンションルーティング機構を導入し、ターゲットパーソナ、会話履歴、および以前に生成されたトークンの3つの特徴源を、学習可能な重みを用いて寄与度をバランスさせる。
• 動的重み予測器が、各アテンションルートの重みを計算し、文脈に応じて推論中にパーソナの影響を調整可能にする。
• モデルは、パーソナが希少なデータ上でエンドツーエンドに微調整され、パーソナが豊富なデータを必要としない統合的な学習が可能になる。
• 推論プロセスでは、ハイパーパrameter α を用いてパーソナ特徴の寄与度をスケーリング可能であり、ゼロ、部分的、または完全なパーソナ露出を制御できる。

実験結果

リサーチクエスチョン

• RQ1 事前学習ベースの対話モデルは、パーソナが希少で実世界の会話データ上で微調整された場合、パーソナ一貫性のある応答を効果的に学習できるか？
• RQ2 推論中のアテンションルーティングにおいて、パーソナ特徴の寄与度を動的にバランスさせることで、パーソナ情報の過剰利用や不十分利用を回避できるか？
• RQ3 提案されたアテンションルーティング機構は、固定重みまたはアテンションオンリーベースラインと比較して、応答の自然さとパーソナ一貫性の両方を向上させるか？
• RQ4 パーソナがほとんど言及されない実世界の会話パターンに、パーソナが豊富なデータ分布に過学習することなく一般化できるか？

主な発見

• 提案モデルは、ランダムおよびバイアス付きテストセットの両方で、すべてのベースラインを大きく上回るパーソナ一貫性を達成した。人的評価ではバイアス付きテストセットで1.248のスコア（2番目に良いモデルは1.198）を記録した。
• α = 1（完全なパーソナ制御）のモデルは、ランダムテストセットで人間が生成した応答よりも高いパーソナ一貫性を達成しており、パーソナ統合の優位性を示している。
• モデルは高い自然さと一貫性を維持しており、自動評価ではROUGE-Lスコアが1.912を記録。2番目に良いベースライン（1.875）を上回り、人間レベルの性能（1.928）に近い水準に達している。
• 動的重み付け機構により、パーソナ一貫性と応答の自然さのトレードオフが効果的に緩和され、ベースラインで観察された高パーソナ一貫性が自然さを損なうという問題を軽減した。
• α = 0（パーソナなし）のモデルは、パーソナ関連性が低いが、依然として自然で文脈に一貫した応答を生成でき、制御機構の柔軟性を示している。
• ノイズが多くパーソナが豊富なデータ（例：TTransfo+P）で微調整された場合でさえも、提案モデルはこれらのベースラインを上回り、動的アテンションルーティングのロバスト性を裏付けた。